- OpenAI își desființează echipa axată pe riscurile pe termen lung ale inteligenței artificiale, redistribuind unii membri în alte echipe.
- Această decizie vine la scurt timp după ce co-fondatorul Ilya Sutskever și Jan Leike își anunță plecările, invocând neînțelegeri cu privire la prioritățile companiei.
- OpenAI își continuă dezvoltarea, lansând un nou model AI și versiunea desktop a ChatGPT.
OpenAI își desființează echipa axată pe riscurile pe termen lung ale inteligenței artificiale la doar un an după ce compania a anunțat formarea acestei echipe, confirmă o persoană familiarizată cu situația pentru CNBC vineri.
Advertisment
Vestea vine la câteva zile după ce ambii lideri ai echipei, co-fondatorul OpenAI Ilya Sutskever și Jan Leike, își anunță plecările de la startup-ul susținut de Microsoft. Vineri, Leike scrie că “cultura și procesele de siguranță ale OpenAI sunt trecute pe plan secund față de produse strălucitoare.”
Echipa de superaliniere a OpenAI, anunțată anul trecut, se concentrează pe “descoperiri științifice și tehnice pentru a ghida și controla sistemele de inteligență artificială mult mai inteligente decât noi.” La momentul respectiv, OpenAI declară că va aloca 20% din puterea sa de calcul pentru această inițiativă pe parcursul a patru ani.
Co-fondatorii OpenAI au opinii diferite
OpenAI nu oferă un comentariu și redirecționează către postarea recentă pe X a co-fondatorului și CEO-ului Sam Altman, în care acesta împărtășește că este trist să-l vadă pe Leike plecând și că compania mai are multe de făcut. Sâmbătă, co-fondatorul OpenAI Greg Brockman postează o declarație atribuită atât lui, cât și lui Altman, pe X, afirmând că compania a “crescut gradul de conștientizare a riscurilor și oportunităților AGI, astfel încât lumea să se poată pregăti mai bine pentru aceasta.”
Marți, Sutskever și Leike își anunță plecările pe platforma de socializare X, la câteva ore diferență, dar vineri, Leike împărtășește mai multe detalii despre motivele plecării sale de la startup.
“Mă alătur deoarece cred că OpenAI ar fi cel mai bun loc din lume pentru a face această cercetare,” scrie Leike pe X. “Cu toate acestea, sunt în dezacord cu conducerea OpenAI în legătură cu prioritățile de bază ale companiei de ceva timp, până când ajungem în final la un punct de ruptură.”
Leike scrie că el crede că mult mai mult din lățimea de bandă a companiei ar trebui să fie concentrată pe securitate, monitorizare, pregătire, siguranță și impact societal.
“Aceste probleme sunt destul de greu de rezolvat corect și sunt îngrijorat că nu suntem pe o traiectorie care să ne ducă acolo,” scrie el. “În ultimele luni, echipa mea navighează împotriva vântului. Uneori ne străduim să obținem [resurse de calcul] și devine din ce în ce mai greu să realizăm această cercetare crucială.”
Leike adaugă că OpenAI trebuie să devină o “companie AGI cu prioritate pe siguranță.”
“Construirea unor mașini mai inteligente decât oamenii este o întreprindere inerent periculoasă,” scrie el. “OpenAI își asumă o responsabilitate enormă în numele întregii umanități. Dar, în ultimii ani, cultura și procesele de siguranță sunt trecute pe plan secund față de produse strălucitoare.”
OpenAI suferă de o criză existențială
Plecarile de mare profil vin la câteva luni după ce OpenAI trece printr-o criză de conducere care îl implică pe Altman.
În noiembrie, consiliul de administrație al OpenAI îl demite pe Altman, spunând într-o declarație că Altman nu este “constant sincer în comunicările sale cu consiliul.”
Problema pare să devină mai complexă în fiecare zi, The Wall Street Journal și alte publicații media raportând că Sutskever își concentrează atenția pe asigurarea că inteligența artificială nu va dăuna oamenilor, în timp ce alții, inclusiv Altman, sunt mai dornici să avanseze cu livrarea de noi tehnologii.
Demiterea lui Altman provoacă demisii sau amenințări cu demisia, inclusiv o scrisoare deschisă semnată de aproape toți angajații OpenAI, și revolta investitorilor, inclusiv Microsoft. În decurs de o săptămână, Altman este reintegrat în companie, iar membrii consiliului de administrație Helen Toner, Tasha McCauley și Ilya Sutskever, care votează pentru demiterea lui Altman, sunt înlăturați. Sutskever rămâne în echipă la acel moment, dar nu mai în calitatea sa de membru al consiliului. Adam D’Angelo, care votează și el pentru demiterea lui Altman, rămâne în consiliu.
Sam Altman este împăcat cu plecarea lui Ilya
Când Altman este întrebat despre statutul lui Sutskever într-un apel pe Zoom cu reporterii în martie, el spune că nu are actualizări de împărtășit. “Îl iubesc pe Ilya … Sper să lucrăm împreună pentru tot restul carierelor noastre, cariera mea, orice,” spune Altman. “Nimic de anunțat astăzi.”
Marți, Altman își împărtășește gândurile despre plecarea lui Sutskever.
“Aceasta este foarte tristă pentru mine; Ilya este cu ușurință una dintre cele mai mari minți ale generației noastre, o lumină călăuzitoare a domeniului nostru și un prieten drag,” scrie Altman pe X. “Brilianța și viziunea sa sunt bine cunoscute; căldura și compasiunea sa sunt mai puțin cunoscute, dar nu mai puțin importante.” Altman spune că directorul de cercetare Jakub Pachocki, care este la OpenAI din 2017, îl va înlocui pe Sutskever în calitate de șef al științei.
OpenAI vine cu un nou model GPT
Vestea despre plecările lui Sutskever și Leike, și desființarea echipei de superaliniere, vine la câteva zile după ce OpenAI lansează un nou model AI și o versiune desktop a ChatGPT, împreună cu o interfață de utilizare actualizată, cel mai recent efort al companiei de a extinde utilizarea popularului său chatbot.
Actualizarea aduce modelul GPT-4 pentru toată lumea, inclusiv pentru utilizatorii gratuiti ai OpenAI, spune directorul tehnologic Mira Murati luni într-un eveniment transmis în direct. Ea adaugă că noul model, GPT-4o, este “mult mai rapid,” cu capacități îmbunătățite în text, video și audio.
OpenAI spune că plănuiește în cele din urmă să permită utilizatorilor să facă apeluri video cu ChatGPT. “Aceasta este prima dată când facem cu adevărat un pas mare înainte în ceea ce privește ușurința de utilizare,” spune Murati.