- România analizează introducerea unei noi ocupații în domeniul AI
- Marius Stanciu spune că nevoia unui specialist depinde de companie
- AI Act stabilește reguli pentru supravegherea sistemelor cu risc ridicat
Guvernanța AI poate deveni o nouă oportunitate profesională pentru tine, pe măsură ce companiile introduc inteligența artificială în recrutare, finanțe și management. Universitatea Ecologică din București pregătește, potrivit informațiilor prezentate în emisiune, programe de formare pentru ocupația de practician în guvernanță tehnologică. Inițiativa urmărește și recunoașterea oficială a acestei specializări în România.
Marius Stanciu, partener la Buju, Stanciu și Asociații, spune că nevoia unui specialist dedicat depinde de activitatea companiei și de riscurile asociate utilizării AI. Organizațiile care folosesc algoritmi pentru decizii importante au mai multe obligații de conformitate.
Guvernanța AI devine o responsabilitate pentru companii
Companiile care folosesc inteligența artificială trebuie să stabilească cine verifică deciziile algoritmilor și cine răspunde atunci când apar erori. Totuși, nu orice organizație are nevoie de un departament separat sau de un Chief AI Officer.
„Cred că depinde foarte mult ce face compania. Răspunsul este că depinde”, spune Marius Stanciu.
Avocatul explică diferența dintre o companie care utilizează AI pentru activități simple și una care ia decizii cu impact asupra clienților sau angajaților.
„Dacă ești un restaurant care ai un chatbot care se ocupă de rezervări, probabil că nu este nevoie”, spune acesta.
Situația este diferită pentru o bancă ce utilizează inteligența artificială pentru evaluarea bonității clienților sau pentru recrutare. În astfel de cazuri, compania trebuie să acorde o atenție sporită obligațiilor legale și modului în care sunt verificate deciziile automatizate.
Companiile mari creează funcții dedicate controlului AI
Microsoft, IBM și Schneider Electric au dezvoltat structuri dedicate utilizării responsabile a inteligenței artificiale. Acestea urmăresc respectarea regulilor interne, identificarea riscurilor și distribuirea responsabilităților.
„E clar că marile companii au înțeles lucrul ăsta”, afirmă Marius Stanciu.
Specialistul explică faptul că firmele au nevoie nu doar de oameni care să promoveze utilizarea tehnologiei, ci și de profesioniști care să stabilească limitele acesteia.
„Vom avea și un om care să spună când să nu folosim AI-ul sau cum să-l folosim”, spune avocatul.
Rolul poate fi ocupat de un Chief AI Officer sau poate fi distribuit între echipele juridice, tehnice și de conformitate. Structura depinde de dimensiunea organizației și de complexitatea sistemelor utilizate.
Guvernanța AI trebuie să respecte obligațiile europene
Regulamentul european privind inteligența artificială, AI Act, stabilește cerințe pentru sistemele clasificate drept sisteme cu risc ridicat.
Articolul 14 prevede măsuri de supraveghere umană efectivă, proporționale cu riscurile și cu autonomia sistemelor. Articolul 4 prevede măsuri pentru dezvoltarea competențelor AI ale personalului care utilizează aceste tehnologii.
Obligațiile diferă în funcție de rolul companiei, de sistemul utilizat și de categoria de risc. Pentru anumite aplicații, trebuie să fie desemnate persoane capabile să monitorizeze funcționarea sistemelor și să intervină atunci când este necesar.
Marius Stanciu atrage atenția că organizațiile care furnizează sisteme AI cu risc ridicat au numeroase cerințe de conformitate. Respectarea acestora poate necesita un responsabil dedicat.
Un responsabil AI poate reduce expunerea juridică a companiei
Un specialist în guvernanță tehnologică poate contribui la identificarea riscurilor și la documentarea măsurilor prin care compania supraveghează utilizarea AI.
Marius Stanciu compară existența unei asemenea funcții cu o măsură de protecție pentru organizație. În cazul unui litigiu, compania trebuie să poată demonstra că a luat măsuri pentru a controla sistemele automatizate.
Avocatul pune accent pe obligația de diligență și pe responsabilitatea juridică. Numirea unui Chief AI Officer poate ajuta organizația să arate că a tratat aceste riscuri, dar nu o exonerează automat de răspundere.
Deciziile luate cu ajutorul inteligenței artificiale trebuie să poată fi explicate și verificate, în condițiile prevăzute de legislația aplicabilă.
România pregătește specialiști pentru guvernanța AI
Universitatea Ecologică din București pregătește cursuri interdisciplinare pentru specializarea de practician în guvernanță tehnologică, potrivit informațiilor prezentate în emisiune.
Pregătirea urmărește să combine dreptul, tehnologia, etica și managementul riscurilor. Ocupația este încă la nivel de propunere, fără o recunoaștere oficială confirmată.
Pentru tine, această direcție poate deschide oportunități profesionale la intersecția dintre domeniul juridic și cel tehnologic. Companiile care folosesc sisteme AI pentru decizii importante au nevoie de mecanisme clare de control și responsabilitate.
Specialistul în guvernanță AI ar putea avea tocmai această misiune: să stabilească modul în care tehnologia este supravegheată și limitele în care poate fi utilizată.