Lloyd’s of London lansează o asigurare pentru riscurile generate de erorile inteligenței artificiale

• Lloyd’s of London lansează o asigurare pentru pierderile cauzate de erori AI, scrie FT.
• Polițele Armilla acoperă daunele și costurile legale legate de performanța deficitară a AI.
• Asigurarea se activează doar dacă AI-ul nu îndeplinește așteptările inițiale.

Lloyd’s of London, prin intermediul mai multor asigurători, introduce o poliță de asigurare dedicată companiilor care utilizează inteligența artificială. Această inițiativă vine în contextul creșterii preocupărilor cu privire la greșelile costisitoare cauzate de instrumentele AI, cum ar fi halucinațiile algoritmilor sau erorile de interpretare ale chatbot-urilor. Noul produs acoperă daunele și costurile legale în cazul în care o companie este acționată în justiție pentru daune provocate de performanța deficitară a unui sistem AI, scrie FT.

Care e inițiativa start-up-ului Armilla?

Polițele sunt dezvoltate de Armilla, un start-up susținut de acceleratorul Y Combinator, și sunt distribuite prin brokeri precum Lockton. Asigurarea protejează companiile împotriva pierderilor suferite de clienți sau terți, atunci când instrumentele AI nu funcționează conform așteptărilor. Spre deosebire de polițele generale de tehnologie, care oferă acoperiri limitate pentru incidente AI, produsele Armilla oferă sume mai mari și mai specifice acestui tip de risc.

Care sunt cazurile concrete de erori AI?

Mai multe incidente evidențiază necesitatea unor astfel de polițe. Virgin Money își cere scuze după ce chatbot-ul său reacționează negativ la cuvântul „virgin”. Grupul de livrări DPD dezactivează o parte a botului de servicii clienți după ce acesta insultă utilizatorii.

Un tribunal obligă Air Canada să onoreze o reducere oferită eronat de propriul chatbot. Astfel de exemple arată impactul financiar și reputațional al defecțiunilor AI.

Care sunt condițiile de activare a poliței?

Asigurarea nu acoperă orice eroare izolată, ci intră în vigoare atunci când AI-ul performează semnificativ sub așteptările stabilite inițial. De exemplu, dacă un chatbot oferă informații corecte doar în 85% din cazuri, după ce anterior atinge o acuratețe de 95%, se declanșează plata. Compania Armilla analizează modelele AI înainte de încheierea poliței și evaluează riscul de degradare a performanței.

Care sunt criteriile de selecție?

Tom Graham, reprezentant al companiei de asigurări Chaucer din cadrul Lloyd’s, precizează că nu toate sistemele AI sunt eligibile pentru asigurare. Companiile de asigurări rămân selective și nu subscriu polițe pentru modele considerate instabile sau prea riscante.