Când A.I.-ul o ia razna.. O femeie e acuzată pe nedrept de furt din magazine de un sistem de recunoaștere facială

• Un sistem de recunoaștere facială care folosește inteligența artificială recunoaște pe nedrept o femeie că a furat dintr-un magazin, scrie BBC.
• Femeia, care vrea să rămână anonimă, spune că s-a simțit „hărțuită și umilită”.
• Cazul scoate în evidență preocupările oamenilor cu privire la acuratețea și etica utilizării sistemelor de recunoaștere facială.

O femeie, care vrea să păstreze anonimatul, s-a simțit „hărțuită și umilită”, după ce a fost identificată în mod eronat de către tehnologia de recunoaștere facială utilizată într-un magazin Home Bargains din Marea Britanie, că a furat din magazine, scrie BBC.

Incidentul a avut loc când Sara, așa cum vrea să fie numită, intră în magazin și este imediat confruntată de un angajat. Membrul personalului o acuză că este o hoață și spune că a fost semnalată de sistemul de recunoaștere facială al magazinului, numit Facewatch.

„În mai puțin de un minut am fost abordat de un angajat al magazinului, care m-a acuzat că sunt infractoare. Am fost semnalată greșit de tehnologia de recunoaștere facială”, spune Sara. Geanta ei a fost percheziționată și iar Sara e dată din magazin, cu mențiunea că are interdicție în toate francizele Facewatch.

Cum răspunde Facewatch?

Facewatch, compania din spatele software-ului de recunoaștere facială, recunoaște ulterior că a comis o eroare în cazul Sarei. Cu toate acestea, nici compania, nici Home Bargains nu au oferit un comentariu pentru BBC cu privire la acest incident.

Tehnologia e utilizată de mulți comercianți cu din Marea Britanie, cum ar fi Budgens, Sports Direct și Costcutter, pentru a identifica potențialii infractori prin compararea fețelor cu o bază de date a infractorilor anteriori.

Grupurile de apărare a libertăților civile spun că au îngrijorări cu privire la acuratețea și etica utilizării unor astfel de sisteme de recunoaștere facială.

Silkie Carlo, de la Big Brother Watch, a declară: “Orice persoană a cărei față este scanată face parte, în esență, dintr-o aliniere digitală a poliției. Dacă declanșează o alertă de potrivire, poliția va veni, eventual îi va reține și îi va interoga, cerându-le să își dovedească nevinovăția.”
Poliția metropolitană a efectuat 192 de arestări în acest an datorită acestei tehnologii, dar circa una din 40 de alerte a fost o identificare greșită, potrivit rapoartelor.
În timp ce unii membri ai publicului susțin utilizarea recunoașterii faciale pentru a combate criminalitatea, incidentul arată riscurile de falsuri pozitive și posibilitatea ca persoane nevinovate să se confrunte cu umilințe și suferințe din cauza erorilor tehnologiei.