- Musk spune că sunt 10-20% șanse ca A.I.-ul să distrugă lumea.
- Musk își reduce teama față de A.I. și vede mai multe aspecte pozitive.
- Roman Yampolskiy spune că sunt 99% șanse ca A.I.-ul să distrugă lumea.
Musk rămâne la ideea că A.I.-ul poate distruge umanitatea, dar mai puțin decât data trecută. Sunt 10%-20% șanse să se întâmple, spune el.
E de acord teoria lui Geoff Hinton. Însă, scenariul e mai pozitiv decât negativ, spun Musk la Abundance Summit.
Musk dă și o perioadă în care A.I.-ul va depăși omul la intelect: 2029-2030 Spune că se mișcă extrem de repede și îl tulbură diferența dintre calculul digital și cel uman.
Important este ca inteligența artificială să fie curioasă și mereu în căutarea adevărului, spune el.
Ce nu vede Musk? P(doom)
P(doom) e un alt trend apărut odată cu boom-ul A.I.. Se traduce ca probability of doom sau probability of death, mai nou. Măsoară șansele ca A.I.-ul să distrugă lumea.
Musk spune că există practic o șansă de 1 din 5 ca A.I.-ul să se întoarcă împotriva oamenilor.
Roman Yampolskiy, de la Laboratorului de Securitate Cibernetică la Universitatea Louisville, vine cu altă perspectivă.
Spune că sunt Vede 99,(9) șanse ca A.I.-ul să distrugă lumea și are câteva scenarii:
– Inteligența artificială preia controlul asupra lumii.
– A.I.-ul ar pune capăt umanității, printr-o armă biologică sau printr-un război nuclear, ori cu un atac cibernetic la scară largă.
OpenAI, Google DeepMind și Anthropic avertizau că A.I.-ul va fi capabil în viitor să distrugă la fel de ușor ca o pandemie sau o bombă nucleară.
Tot Yampolskiy spune că e imposibil să controlăm o A.I. avansată. Singura speranță e să n-o contruim niciodată.
Și nu înțelege de ce e Musk a intrat în jocul A.I.: Dacă e din vina concurenței, oricum nu va mai conta. O superinteligență îi va demola pe toți, crede el.
Un studiu de la The Independent arată că, odată ce o inteligență artificială învață să mintă, comportamentul înșelător este imposibil de inversat cu măsurile actuale de siguranță.
Tot ei spun că A.I.-ul e mai susceptibil să mintă de la sine decât de la programare.
Geoffrey Hinton spunea că există mai puține șanse ca un lucru mai inteligent să fie controlat de unul mai puțin inteligent.