- Experții în inteligență artificială trag un semnal de alarmă cu privire la tehnologia care va urma alegerile din 2024: „Nu suntem pregătiți pentru asta”.
- Dezinformarea politică generată de inteligența artificială a devenit deja virală online înainte de alegerile din 2024.
- Imagini false concepute să semene cu știrile locale, susținând în mod fals că un candidat a renunțat la cursă au devenit virate pe internet.
Experții în inteligență artificială trag un semnal de alarmă cu privire la utilizarea nereglementată a instrumentelor de inteligență artificială în timpul sezonului electoral .
Inteligența artificială generativă nu numai că poate produce rapid e-mailuri, texte sau videoclipuri vizate de campanie, dar poate fi folosită și pentru a induce în eroare alegătorii, a uzurpa identitatea candidaților și a submina alegerile la o scară și o viteză nevăzută încă.
„Nu suntem pregătiți pentru asta”, a avertizat AJ Nash, vicepreședinte de informații la firma de securitate cibernetică ZeroFox. „Pentru mine, marele salt înainte sunt capacitățile audio și video care au apărut. Când poți face asta la scară largă și să-l distribui pe platformele sociale, ei bine, va avea un impact major.”
Printre numeroasele capabilități ale AI, iată câteva care vor avea efecte semnificative asupra alegerilor și voturilor: mesaje automate de apelare automată, în vocea unui candidat, care instruiesc alegătorii să voteze la o dată greșită; înregistrări audio ale unui candidat care se presupune că mărturisește o crimă sau își exprimă opinii rasiste; înregistrări video care arată pe cineva ținând un discurs sau un interviu pe care nu l-a dat niciodată în realitate.
Imagini false concepute să semene cu știrile locale, susținând în mod fals că un candidat a renunțat la cursă.
Un expert AI atrage atenția oficialilor ONU pentru un set de reglementări AI
„Dacă Elon Musk te sună personal și îți spune să votezi pentru un anumit candidat?” a declarat Oren Etzioni, CEO-ul fondator al Institutului Allen pentru IA, care a demisionat anul trecut pentru a începe organizația nonprofit AI2. „Mulți oameni ar asculta. Dar nu este el”.
Petko Stoyanov, director global de tehnologie la Forcepoint, o companie de securitate cibernetică cu sediul în Austin, Texas, a prezis că grupurile care doresc să se amestece în democrația americană vor folosi AI și mass-media sintetică pentru a eroda încrederea.
“Ce se întâmplă dacă o entitate internațională — un criminal cibernetic sau un stat național — se uită la cineva? Care este impactul? Avem vreo cale de atac?” spuse Stoyanov. „Vom vedea mult mai multe dezinformări din surse internaționale”.
Dezinformarea politică generată de inteligența artificială a devenit deja virală online înainte de alegerile din 2024, de la un videoclip manipulat cu Biden care pare să țină un discurs care atacă persoanele transgender până la imagini generate de inteligență artificială cu copii despre care se presupune că învață satanismul în biblioteci.