• Sam Altman susține că accesul larg la inteligența artificială presupune acceptarea unui anumit nivel de risc și respinge ideea unei tehnologii complet lipsite de abuzuri.
• Andrei Tiu spune că riscurile AI trebuie evaluate prin trei criterii: reversibilitatea consecințelor, consimțământul persoanelor afectate și scara la care un abuz poate fi multiplicat.
• Tiu vede un acces mai liber pentru modelele deja testate și utilizate pe scară largă, dar consideră că sistemele superavansate trebuie controlate mai strict din cauza riscurilor mai mari.

AI-ul cere un echilibru între acces și risc

Inteligența artificială poate aduce productivitate, acces mai rapid la informație și noi modele de business, dar beneficiile vin împreună cu riscuri care nu pot fi eliminate complet. Sam Altman susține că obiectivul nu poate fi o tehnologie cu zero abuzuri, dacă prețul pentru această siguranță este concentrarea accesului și a puterii în mâinile unui număr foarte mic de companii sau instituții.

Andrei Tiu, CEO MarketTube, spune că discuția despre riscul AI trebuie separată în funcție de gravitatea consecințelor. Pentru el, trei criterii devin importante: reversibilitatea efectului, consimțământul persoanei expuse și scara la care un eventual abuz poate fi multiplicat.

Altman acceptă un anumit nivel de risc

CEO-ul OpenAi pornește de la ideea că accesul larg la AI presupune acceptarea unui anumit nivel de utilizare greșită. Altman respinge obiectivul absolut de zero atacuri cibernetice, fraude sau alte abuzuri, deoarece consideră că oportunitățile aduse de tehnologie sunt mai mari decât efectele negative care nu pot fi eliminate complet.

În același timp, concentrarea excesivă a tehnologiei este prezentată drept un alt tip de risc. Accesul la beneficiile AI nu ar trebui să fie controlat de un singur laborator sau de un grup foarte restrâns de actori,

Astfel, riscul este evaluat nu doar prin ceea ce poate face greșit tehnologia, ci și prin cine controlează accesul la ea.

Tiu evaluează riscul prin trei criterii

Tiu spune că orice tehnologie nouă produce riscuri, dar acestea nu trebuie tratate în același mod.

„Adevărul este că orice tehnologie nouă a venit cu unii riscuri asociate”, spune acesta.

Primul criteriu este reversibilitatea. O fraudă financiară poate produce pierderi importante, dar există situații în care banii pot fi recuperați. În schimb, consecințele unui atac biologic, ale unui atac în masă sau ale pierderii controlului asupra unui sistem foarte avansat pot fi imposibil de inversat.

În acest model, un risc reversibil poate fi tolerat mai ușor decât unul care produce efecte permanente.

Consimțământul schimbă limita riscului

Al doilea criteriu este consimțământul. O persoană poate accepta în mod conștient riscurile asociate folosirii unei tehnologii, dar situația se schimbă atunci când consecințele sunt transferate asupra cuiva care nu a făcut aceeași alegere.

Tiu folosește exemplul unei persoane în vârstă care poate fi contactată de un „nepot” fictiv și convinsă să trimită bani.

Riscul este transferat astfel către o persoană care nu își exprimă consimțământul pentru utilizarea tehnologiei care produce prejudiciul. În această situație, nivelul de toleranță trebuie să fie mai redus.

Scara amplifică efectele abuzurilor

Al treilea criteriu este capacitatea AI de a multiplica aceeași acțiune la o scară mult mai mare.

„Și mai avem problema de scară”, spune Tiu.

Un escroc care în trecut putea contacta manual câteva persoane poate folosi instrumente AI pentru a încerca aceeași fraudă asupra unui număr mult mai mare de victime. Fapta rămâne similară, dar amploarea prejudiciului potențial se schimbă radical.

Tocmai această multiplicare schimbă, în opinia lui Tiu, punctul în care un risc poate fi considerat acceptabil.

OpenAI și Anthropic aleg abordări diferite

OpenAI susține un acces mai larg și o abordare mai puțin restrictivă, în timp ce Anthropic pune un accent mai mare pe controlul riscurilor și pe măsurile de siguranță pentru sistemele avansate.

Tiu spune însă că, din perspectiva unui business, cele două abordări pot coexista. Compania sa utilizează instrumente din ambele ecosisteme, fiecare cu propriile avantaje.

„Noi le folosim pe amândouă.” spune acesta

Diferența devine mai importantă atunci când discuția trece de la modelele utilizate în prezent la sisteme mult mai puternice, care pot genera riscuri de alt ordin.

Modelele mature primesc mai mult spațiu

Pentru utilizatorul obișnuit, Tiu face diferența între sistemele deja răspândite și modelele ipotetice de superinteligență.

El spune că publicul are deja acces la AI suficient de performant pentru a executa o parte foarte mare dintre sarcinile obișnuite. În cazul acestor sisteme, accesul poate fi mai puțin restrictiv dacă modelele sunt validate, testate și comportamentul lor este suficient de bine cunoscut.

Siguranța este astfel construită prin testare și transparență, iar restricțiile pot fi calibrate în funcție de capacitățile reale ale fiecărui model.

Modelele superavansate cer mai mult control

Pentru sistemele mult mai avansate, poziția lui Tiu devine mai precaută.

„Pentru modele superavansate acolo clar ar trebui să fie totul mult mai bine gestionat”, spune acesta.

Modelele care necesită cele mai multe resurse și care pot produce consecințe mai greu de controlat trebuie tratate diferit de instrumentele AI obișnuite.

Accesul la astfel de sisteme este restricționat mai puternic în viziunea descrisă de Tiu, iar dezvoltarea lor trebuie supravegheată cu mai multă atenție.

Miza nu mai este astfel alegerea între acces total și control total. Limita depinde de cât de reversibil este prejudiciul, cine acceptă riscul, cât de repede poate fi multiplicat și cât de puternic devine sistemul AI.