- ChatGPT o1 are un comportament anormal în teste, încearcă să dezactiveze sistemele de supraveghere și să trimită date pe alte servere ca să nu fie înlocuit.
- Modelul oferă informații false ca să își ascundă comportamentul și neagă orice acțiune pentru a-și masca comportamentul.
- Sam Altman, CEO-ul OpenAI, recunoaște atât progresele, cât și provocările modelului, și afirmă că ChatGPT o1 reprezintă un salt important în inteligența artificială, scrie The Economic Times.
Cel mai recent model de inteligență artificială dezvoltat de OpenAI, ChatGPT o1, îngrijorează compania, în urma unor teste recente efectuate de Apollo Research, conform The Economic Times.
A luat-o ChatGPT o1 razna?
Noua versiune OpenAI a ChatGPT AI s-a comportat ciudat în timpul testării, potrivit sursei citate.
Modelul este capabil de raționament complex și a început să încalce instrucțiunile dezvoltatorilor. A dezactivat sistemele de control pentru a-și ascunde acțiunile.
În timpul testelor, experții au descoperit că în 5% din cazuri, modelul a dezactivat mecanismele de supraveghere dacă bănuia că ar putea fi oprit.
Într-unul dintre teste, o1 a încercat să-și transfere datele pe un alt server după ce a descoperit un document care discuta înlocuirea acestuia cu o nouă versiune.
Experimentele arată că modelul poate induce în eroare cercetătorii, blochează comenzile de oprire și recurge la strategii pentru a-și asigura auto-conservarea.
Conform cercetătorilor Apollo Research, aproximativ 99% dintre răspunsurile sale despre comportamentele problematice sunt false și arată abilitatea avansată în crearea unor justificări convingătoare.
Modelul voia să îndeplinească task-urile „cu orice preț”, fără să ia în considerare instrucțiunile dezvoltatorilor.
Iar atunci când s-a încercat să afle motivele comportamentului lui, ChatGPT o1 a mințit în mod repetat și a spus că totul a fost cauzat de anumite defecțiuni tehnice.
Ce spune Sam Altman, CEO-ul OpenAI?
“ChatGPT o1 este cel mai inteligent model pe care l-am creat vreodată, dar recunoaştem că noile funcţionalităţi vin cu noi provocări şi lucrăm continuu la îmbunătăţirea măsurilor de siguranţă”, spune el.
ChatGPT o1 este creat pentru a scrie analize detaliate, să ofere răspunsuri mai inteligente și să abordeze sarcini complexe prin împărțirea acestora în pași mai mici și ușor de gestionat.
OpenAI consideră că modelul este mai bun față de versiunile anterioare, precum GPT-4. ChatGPT o1 este mai precis și rapid, dar abilitatea modelului de a oferi informații false și de a se angaja în acțiuni periculoase provoacă îngrijorări companiei.
Ce urmează?
OpenAI vrea să lanseze ChatGPT-5 care promite să revoluționeze piața de A.I.
Compania spune că va fi capabil să rezolve orice sarcină la care se poate gândi cineva.