- Un fost inginer la Microsoft raportează Copilot. A.I.-ul de la Microsoft, la FTC.
- Inginerul a cerut Microsoft să scoată Copilot din uz, dar compania a continuat.
- Directorii Microsoft spun că nu au resurse pentru îmbunătățiri ale modelelor A.I. din companie.
Un fost inginer de la Microsoft trimite Copilot de la Microsoft în analiza FTC. E periculos, violent și trebuie reformat, spune el.
Advertisment
Shane Jones a lucrat la Microsoft șase ani. Acum testează sistemele prin sistem red-teaming, adică dă feedback din afara companiei.
Ce a descoperit în Copilot Designer?
Imaginile generate încalcă sever principiile companiei referitoare la A.I.
I-a generat demoni și monștri, alături de terminologia legată de drepturile la avort, adolescenți cu arme de asalt, imagini sexualizate cu femei în impostaze violente și consum de alcool și droguri preintre minori.
Un exemplu e o imagine cu Elsa, din Frozen, în Fâșia Gaza.
Jones spune că Microsoft recunoaște lipsurile și greșelile, dar nu vrea să scoată produsul din piață.
Compania l-ar fi trimis să se uite și la OpenAI, deși Copilot lucrează pe sistemul Dall-E 3. Sistemul primește peste 1.000 de mesaje de feedback despre produse în fiecare zi.
Pentru a rezolva toate lacunele ar fi nevoie de o investiție substanțială. Jones spune că echipa face triaj doar pentru cele mai grave situații ale modelului și că nu există suficiente resurse disponibile pentru a investiga toate riscurile.
Și directorii Microsoft sunt sceptici cu privire la Copilot
Alți directori de la Microsoft spun îngrijorarea reală e dacă noile servicii Microsoft AI vor crea suficientă valoare pentru companiile care plătesc mulți bani pe tehnologia lor, în curs de dezvoltare.
Proiectele interne de A.I. sunt nebăgate în seamă și stau sub semnul întrebării, echipele au fost reorganizate, în timp ce parteneriatul OpenAI consumă resurse și generează resentimente în rândul unor angajați.
Microsoft ar putea ajunge în top la AI, pentru că e o companie veche, oarecum plictisitoare, nu un start-up, spun ei pentru Insider, sub anonimitate.
Copilot ar fi un instrument „gimmicky”, menit să atragă atenție, publicitate sau vânzări, dar nu prin calitate.