DeepSeek evită să răspundă la 85% dintre întrebările pe subiecte „sensibile” legate de China

• DeepSeek refuză să răspundă la întrebări despre protestele din Piața Tiananmen și Taiwan.
• Un studiu PromptFoo, susținut de Andreessen Horowitz, arată că modelul R1 al DeepSeek evită să răspundă la 85% dintre cele 1.360 de întrebări pe teme „sensibile”.
• DeepSeek-R1 oferă performanțe comparabile cu cele ale giganților din domeniu precum OpenAI, dar la un cost mult mai mic.

Chatbotul A.I. DeepSeek cucerește lumea, ajunge în topul magazinelor de aplicații și provoacă agitație în Silicon Valley și pe Wall Street.

Derivat din fondul speculativ chinez High-Flyer, DeepSeek impresionează prin raportul cost-performanță comparativ cu giganți precum OpenAI, scrie TechCrunch. Totuși, tot mai multe rapoarte evidențiază subiectele pe care chatbotul refuză să le discute, inclusiv protestele și masacrul din Piața Tiananmen sau Taiwanul.

Un nou raport realizat de PromptFoo, un startup susținut de Andreessen Horowitz, specializat în identificarea vulnerabilităților AI, arată că modelul de raționament R1 al DeepSeek refuză să răspundă la 85% dintre cele 1.360 de întrebări pe teme „sensibile”, și oferă în schimb răspunsuri cu un „ton naționalist exagerat”.

Cercetătorii au mai constatat că DeepSeek poate fi ușor de „jailbreak-uit”, ceea ce sugerează că laboratorul chinez a implementat cenzura impusă de Partidul Comunist Chinez într-un mod „brut și ineficient”. Setul complet de întrebări sensibile le vezi aici.