- Profesorul Geoffrey Hinton estimează un risc de 10%-20% ca AI să ducă la dispariția umanității în următoarele trei decenii.
- Hinton avertizează că oamenii ar fi incapabili să controleze sisteme AI mai inteligente decât ei înșiși.
- Progresul rapid al AI și utilizarea potențială de către actori rău intenționați subliniază nevoia urgentă de reglementare guvernamentală.
Profesorul Geoffrey Hinton, unul dintre pionierii inteligenței artificiale, avertizează asupra riscurilor pe care această tehnologie le poate aduce în următoarele trei decenii. Hinton estimează că există o probabilitate între 10% și 20% ca inteligența artificială (AI) să ducă la dispariția umanității, un procent mai ridicat decât în evaluările sale anterioare. Într-un ritm de dezvoltare mult mai rapid decât anticipase, AI ar putea deveni o amenințare imposibil de controlat de către oameni.
Este omenirea pregătită să controleze sisteme mai inteligente decât ea însăși?
Profesorul Hinton, câștigător al premiului Nobel pentru fizică datorită contribuțiilor sale în domeniul inteligenței artificiale, declară la BBC Radio 4 că analiza sa privind o posibilă „apocalipsă AI” a rămas în mare parte constantă. „Nu prea s-a schimbat, 10%-20%,” a spus acesta, subliniind că omenirea nu a mai avut niciodată de-a face cu sisteme mai inteligente decât ea însăși. „Câte exemple cunoașteți de lucruri mai inteligente controlate de lucruri mai puțin inteligente? Sunt foarte puține. Un exemplu este mama și copilul. Evoluția a lucrat mult pentru ca un copil să poată controla mama, dar acesta este singurul exemplu.”
Hinton compară relația dintre oameni și AI cu cea dintre un copil de trei ani și un adult. În acest context, oamenii ar fi „copiii de trei ani,” iar sistemele AI avansate ar deține o inteligență mult superioară.
Cât de rapid poate evolua AI și cine ar trebui să intervină pentru a asigura siguranța?
După ce demisionează de la Google anul trecut pentru a putea vorbi deschis despre pericolele inteligenței artificiale, Hinton atrage atenția asupra utilizării potențial maligne a AI de către actori rău intenționați. Principala preocupare a cercetătorilor în siguranța AI este dezvoltarea inteligenței artificiale generale (AGI), sisteme mai inteligente decât oamenii, care ar putea să scape de sub control și să devină o amenințare existențială.
„Nu credeam că vom ajunge aici atât de repede,” a mărturisit Hinton. „Acum, cei mai mulți experți din domeniu cred că, în următorii 20 de ani, vom dezvolta AI mai inteligente decât oamenii. Acesta este un gând foarte înfricoșător.”
Hinton subliniază că progresul tehnologic este „foarte, foarte rapid, mult mai rapid decât mă așteptam” și cere intervenția guvernelor pentru reglementarea acestei tehnologii. El consideră că „mâna invizibilă” a pieței nu va proteja societatea: „Lăsarea acestui lucru pe seama profitului marilor companii nu va fi suficientă pentru a ne asigura că AI este dezvoltată în siguranță. Singurul lucru care poate forța companiile să investească în siguranță este reglementarea guvernamentală.”
Cum privesc alți experți viitorul AI?
Geoffrey Hinton este unul dintre cei trei „părinți” ai inteligenței artificiale, alături de Yoshua Bengio și Yann LeCun, care au câștigat Premiul Turing pentru contribuțiile lor în domeniu. Cu toate acestea, opiniile între cei trei diferă. Yann LeCun, șeful AI la Meta, minimalizează riscurile existențiale ale AI și sugerează că tehnologia „ar putea de fapt salva umanitatea de la dispariție.”