Andrei Pavel, avocat specializat in dreptul tehnologiilor: „Agenții AI nu mai pot fi tratați ca simple aplicații software, pentru că iau decizii și execută acțiuni.”

De Bogdan Iulia

Aleph

Publicat acum 3 ore

Agenții AI au nevoie de mai multe niveluri de protecție și de limite clare privind accesul și acțiunile.
Companiile nu au încă un standard legal clar pentru timpul în care trebuie să oprească un agent AI.
NIST AI Risk Management Framework oferă un cadru voluntar pentru gestionarea riscurilor AI.

NVIDIA lansează o platformă de securitate pentru agenții AI

NVIDIA lansează OpenAgent Safety Platform, o infrastructură de securitate pentru agenții AI care primesc acces la cod, date, aplicații și sisteme. Platforma include OpenShell și Sentry și urmărește să controleze atât accesul agenților, cât și acțiunile pe care aceștia le execută.

NVIDIA controlează accesul și comportamentul agenților AI

OpenShell stabilește limitele de acces ale unui agent AI și definește resursele pe care acesta le poate utiliza și acțiunile pe care le poate executa.

Sentry monitorizează agentul separat de aplicația în care acesta rulează și poate interveni atunci când agentul depășește limitele stabilite. Sistemul poate pune agentul în carantină în câteva milisecunde.

Titlurile zilei

Tineri Antreprenori revine cu ediția a 11-a și pune accent pe creșterea strategică a afacerilor

Agenții AI au nevoie de mai multe niveluri de protecție

Andrei Pavel, avocat specializat în dreptul tehnologiei, explică faptul că agenții AI nu mai pot fi tratați ca simple aplicații software. Aceștia analizează volume mari de informații, iau decizii și pot executa acțiuni în funcție de obiectivele pe care le primesc.

„Agenții sunt niște angajați care au un job, dar nu-și respectă fișa postului”, spune Andrei Pavel, explicând de ce sistemele autonome au nevoie de mai multe niveluri de protecție.

OpenShell stabilește regulile pentru agenții AI

OpenShell funcționează ca un set de reguli interne pentru agenții AI. Sistemul stabilește ce resurse poate accesa un agent și ce acțiuni poate executa.

Sentry adaugă un nivel suplimentar de protecție și poate interveni atunci când agentul depășește limitele stabilite.

Tehnologia NVIDIA ajunge mai greu la companiile obișnuite

Soluția de securitate este orientată în special către infrastructurile on-premise. Companiile care folosesc servicii cloud și accesează modele AI prin API-uri nu beneficiază în aceeași formă de acest nivel de control.

Din acest motiv, tehnologia este mai relevantă în prezent pentru organizațiile mari care gestionează infrastructuri critice sau au cerințe ridicate de securitate.

Piața stabilește standardele de securitate pentru agenții AI

Legislația nu stabilește în prezent un interval universal de timp în care o companie trebuie să oprească un agent AI care produce o acțiune nedorită.

În acest context, companiile folosesc standarde și cadre voluntare de securitate. NIST AI Risk Management Framework oferă un astfel de cadru pentru identificarea și gestionarea riscurilor asociate sistemelor de inteligență artificială.

Companiile trebuie să stabilească limite pentru agenții autonomi

Viteza de intervenție devine importantă atunci când agenții AI au acces la bani, date sensibile sau cod. Totuși, nivelul necesar de protecție diferă în funcție de industrie și de utilizarea concretă a sistemului.

Pentru aplicațiile cu risc ridicat, companiile trebuie să stabilească proceduri clare privind accesul, monitorizarea, intervenția și gestionarea incidentelor.

Securitatea agenților AI devine o problemă de inginerie și guvernanță

Dezbaterea privind securitatea agenților AI combină două dimensiuni: partea tehnică și partea organizațională.

Companiile trebuie să decidă ce poate face autonom un agent, când intervine un mecanism de control și cine răspunde atunci când sistemul depășește limitele stabilite.

Pe măsură ce agenții AI primesc acces la resurse tot mai importante, controlul comportamentului lor devine o componentă esențială a securității digitale.