• PrismML comprimă un model AI cu 27 de miliarde de parametri la doar 5,9 GB, de peste nouă ori mai puțin decât versiunea originală, ceea ce facilitează utilizarea inteligenței artificiale direct pe dispozitive.

• Qualcomm dezvoltă procesoare pentru rularea locală a modelelor AI, iar companiile pot reduce costurile cu serviciile cloud și pot avea un control mai bun asupra datelor.

• Centrele de date riscă să piardă o parte din cererea pentru procesare dacă AI-ul local devine mai eficient, însă modelele avansate necesită în continuare infrastructură puternică.

Inteligența artificială se mută din cloud pe dispozitivele personale

Modelele de inteligență artificială devin tot mai eficiente și permit procesarea direct pe telefoane și laptopuri, cu costuri mai mici și un control mai bun asupra datelor. Această evoluție poate schimba piața centrelor de date, în care marile companii investesc miliarde de dolari.

PrismML reduce de nouă ori dimensiunea unui model AI

Compania PrismML comprimă un model de inteligență artificială cu 27 de miliarde de parametri la doar 5,9 GB, de peste nouă ori mai puțin decât versiunea originală în precizie completă. Tehnologia permite utilizarea unor modele complexe pe dispozitive cu resurse hardware mai limitate.

Qualcomm dezvoltă procesoare pentru AI local

Qualcomm lucrează la procesoare care permit rularea unor modele AI mai mari direct pe telefoane și laptopuri. Compania explorează și arhitecturi care activează doar o parte dintre parametrii modelului la fiecare operațiune, ceea ce reduce necesarul de procesare.

Companiile reduc costurile prin AI local

Procesarea direct pe dispozitive poate diminua cheltuielile cu serviciile cloud și oferă companiilor un control mai mare asupra datelor. În acest model, o parte dintre operațiunile AI nu mai necesită trimiterea informațiilor către servere externe.

Centrele de date se confruntă cu riscuri financiare

Modelele AI mai eficiente pot reduce cererea pentru anumite servicii de procesare în cloud. Dacă prețurile scad mai rapid decât anticipează investitorii, unele centre de date riscă să acumuleze datorii mari și să rămână cu infrastructură neutilizată. Acesta reprezintă însă un scenariu posibil, nu o evoluție sigură.

Modelele AI avansate mențin cererea pentru infrastructură

Cererea globală pentru inteligență artificială continuă să crească, iar antrenarea modelelor avansate necesită în continuare centre de date puternice. AI local poate prelua o parte dintre sarcinile de procesare, dar nu elimină nevoia de infrastructură cloud pentru operațiunile complexe.