- Modelul o3-mini de la OpenAI dă răspunsuri înșelătoare.
- Microsoft testează un nou model A.I. in-house.
- CoreWeave semnează un contract pe 5 ani cu OpenAI.
Modelul o3-mini de la OpenAI dă răspunsuri eronate și înșelătoare, spune compania, după o analiză a procesului de gândire, iar încercările de a opri A.I.-ul să trișeze nu fac decât să-și ascundă adevăratele intenții, descoperă ei. Ce declară Sorin Anagnoste, prodecan al FABIZ, pentru Aleph Business?
Ce este de făcut pentru ca și alte modele A.I. să nu întâmpine această situație?
„O presupunere a celor de la OpenAI este că el acționează pe baza materialelor pe care a fost instruit. Deci dacă el a observat acest comportament de a trișa, de a ascunde, în materialele în care a fost instruit, cărți, cursuri și așa mai departe, el poate aplica acest lucru. Cei de la OpenAI vin și spun următorul lucru: putem să folosim ceea ce se cheamă Chain of Thought, un fel de lanț de raționament prin care să vedem cum gândește efectiv inteligența artificială și atunci putem să detectăm aceste lucruri pe care ei le menționează.
Au zis trei lucruri pe care le menționează. 1: nu realizează complet partea de scriere de cod, care știm că este foarte importantă și este un use case, o folosință foarte practică și actuală și bună în inteligența artificială generativă. Al 2-lea: păcălește userii. Al 3-lea: când dă de o problemă foarte grea, renunță. Deci cam acestea au fost cele trei probleme pe care le-au identificat, și soluția lor este să urmărim cum gândește, folosind ceea ce ei numesc Chain of Thought 2.”, declară Anagnoste.
Care sunt alți agenți A.I. mai buni decât OpenAI?
„Dacă ne gândim la acest Agent AI mai bun, care se numește Manus, și este din China, aș avea aici două observații. Manus nu și-a dezvoltat propria tehnologie în spate, el folosește un mix de tehnologie alternativ câteodată dintre modelul Claude de la Anthropic, care este o firmă americană, și modelul Qwen de la Alibaba. Nu putem să facem o comparație precum DeepSeek, care DeepSeek este un laborator de inteligență artificială, și care are cercetori, publică articole de specialitate pe tema asta, sunt publice, online și așa mai departe.
Acolo putem să ne dăm seama că sunt efectiv la nivelul, aproximativ la nivelul celor din Vest. Manus este de fapt, din latină, numele Manus, „mână”, și la moment actual este un produs. Un produs realizat de compania Monica.
Monica.im este website-ul de care s-a auzit recent. În primele teste, că încă nu este disponibil pentru toată lumea, în primele teste arată că pe anumite funcții este mai bun decât OpenAI sau Anthropic, sau modelul Claude de la Anthropic, dar probabil în spatele ușilor închise, modelele sunt similare pentru că folosesc tehnologie similare. Mă aștept să avem mai mulți Manus AI în următoarea perioadă, și o să vedem dacă o să ne aducem aminte de Manus AI peste un an.”, continuă Anagnoste.
De ce dorește Microsoft să-și facă propriul model de A.I.
„Revenind la a treia întrebare, legată de Microsoft, și de ce dorește să-și facă propriul model de A.I., și nu să întrerupă colaborarea, dar să aibă o alternativă la colaborarea cu OpenAI, aș zice că sunt mai multe motive.
Primul: Deși au investit peste 14 miliarde în acest parteriat cu OpenAI, încă nu au acces la cum funcționează modelele respective în spate. Deci își pot incorpora în produsele lor, dar în spate nu știu cum funcționează efectiv, nu au încă acces total, și știm acest lucru din mai multe surse.
Al doilea lucru este că atunci când știi cum funcționează un sistem, poți să-l optimizezi pe resursele tale foarte bine. Și vedem acest lucru de optimizare hardware și software la Apple. Se pare că și Microsoft dorește să aibă această optimizare de hardware, mai ales software cu A.I., de aceea în 2022 au achiziționat o companie care se cheamă Inflection AI, condusă de Mustafa Suleyman, care este fostul director de la compania DeepMind, care a fost achiziționată de Google acum mult timp.
Ce este interesant și o paralelă cu DeepMind și cu prima întrebare de trișarea modelor AI este că atunci când cei de la DeepMind și-au creat acel calculator care să joace contra campionului mondial jocul Go, i-au dat doar instrucțiunile de joc al calculatorului, și jocul acesta s-a jucat practic el cu el. Așa a învățat să fie mai bun. Și ca observație este că atunci când, probabil în viitor, pentru că rămânem fără date pentru a antrena aceste modele, probabil datele vor fi sintetice și modelul se antrena pe datele sintetice.
Revenind la întrebarea legată de Microsoft, aș spune că al treilea motiv pentru care dorește această dezvoltare, este acela că vrea să aibă o diversificare și ceea ce noi numim o mitigare a riscului, și dorește să lucreze atât cu companii, cu alte modele de inteligență artificială de la companii Precum Anthropic, de exempluc sau de la xAI, compania deținută de Elon Musk, dar și alte modele precum Open Source de la Meta. Deci încearcă să ofere clienților toate aceste modele, nu numai unul care este OpenAI Deci cam asta ar fi direcția și sunt sigur că vor avea rezultate bune, având în vedere ce echipă formidabilă și-au strâns acolo.”, încheie Anagnoste.