• O profesoară de drept de la Universitatea Fordham propune licențe profesionale pentru inginerii AI, cursuri obligatorii de etică și standarde de practică, după modelul medicilor și avocaților.

• Inginerii AI pot răspunde pentru erori grave printr-un sistem similar malpraxisului medical și pot refuza proiectele care pun în pericol siguranța utilizatorilor.

• Propunerea vine pe fondul presiunilor pentru lansarea rapidă a produselor AI și urmărește să completeze legislația prin reguli clare de responsabilitate pentru dezvoltatori.

Inginerii AI ar putea avea nevoie de licențe profesionale

O propunere din Statele Unite aduce în discuție introducerea licențelor profesionale pentru inginerii care dezvoltă sisteme de inteligență artificială, după modelul medicilor și avocaților. Scopul este stabilirea unor reguli clare de siguranță și responsabilitate atunci când produsele AI provoacă erori cu consecințe grave.

O profesoară de drept propune licențe pentru inginerii AI

Chinmayi Sharma, profesoară de drept la Universitatea Fordham, propune un sistem de licențiere pentru inginerii AI, care include cursuri obligatorii de etică și standarde profesionale de practică. Inițiativa urmărește să stabilească responsabilitatea individuală a specialiștilor care dezvoltă sisteme cu impact major asupra vieții oamenilor.

Demisia unui angajat Anthropic reaprinde dezbaterea

Demisia lui Jacob Coxon de la Anthropic readuce în atenție problema răspunderii pentru erorile inteligenței artificiale. Coxon participă pe 5 octombrie la o audiere a unei comisii a Consiliului Local din New York, dedicată riscurilor și reglementării AI.

Inginerii AI pot răspunde pentru greșeli grave

Propunerea introduce un cadru de răspundere profesională similar celui din medicină sau arhitectură. O eroare fundamentală într-un sistem AI care influențează viața și siguranța oamenilor poate constitui malpraxis. În același timp, licențierea oferă inginerilor o bază profesională pentru refuzul proiectelor pe care le consideră nesigure.

Presiunea lansărilor rapide ridică riscuri

Potrivit New York Times, doi angajați OpenAI avertizează conducerea cu privire la riscul ca unii agenți AI să scape de sub control. Relatarea indică și presiunea pentru accelerarea testelor, astfel încât modelele să respecte termenele de lansare. Situația evidențiază conflictul dintre viteza dezvoltării și siguranța produselor.

Licențierea completează reglementările AI

Propunerea nu înlocuiește legislația existentă, ci adaugă reguli de responsabilitate profesională pentru cei care construiesc sistemele AI. Obiectivul este ca inginerii să aibă obligații clare de siguranță și posibilitatea de a refuza lansarea unor produse cu riscuri majore.