- AWS ține conferința anuală re:Invent unde anunță propriul asistent A.I. și un nou cip folosit pentru antrenarea modelului lor
- 80% din unicornii planetei folosesc serviciile AWS, spune Adam Selipski, CEO-ul AWS
- Compania anunță și un parteneriat cu Nvidia, prin care AWS va devein primul furnizor de servicii cloud care va folosi cipurile H200 ale Nvidia
Serviciile Amazon Web Services sunt folosite de 80% din unicornii planetei. Iar Amazon se „reinventează” anual la conferința re:Invent, în care anunță upgrade-urile cu care vin pentru companii.
Fiind anul inteligenței artificiale, nu puteau să se lase mai prejos și lansează Q.
Calcă accelerația pe A.I.
Amazon Q este un chatbot de tip ChatGPT conceput pentru utilizatorii de business, care va fi disponibil pe platforma de cloud AWS a Amazon. Acesta se adresează persoanelor care utilizează AWS la locul de muncă, inclusiv programatorilor, directorilor IT și analiștilor de afaceri. Amazon Q este dezvoltat pe baza a 17 ani de date AWS și poate fi folosit pentru a pune întrebări specifice utilizării AWS. Ca răspuns la solicitări, acesta va ajuta dezvoltatorii să scrie cod, va răspunde la întrebări despre cum să utilizeze serviciile cloud AWS pentru administratori și va genera rapoarte de afaceri. Amazon Q poate funcționa cu oricare dintre modelele găsite pe Amazon Bedrock, depozitul de modele de inteligență artificială al AWS, care include Llama 2 de la Meta și Claude 2 de la Anthropic. Clienții care folosesc Q își pot alege modelul care funcționează cel mai bine pentru ei. Trebuie să se conecteze la API-ul Bedrock pentru modelul respectiv, să îl folosească pentru a-și asimila datele, politicile și fluxul de lucru, iar apoi să utilizeze Amazon Q.
Fac propriul cip.
Noile cipuri Trainium2 de la Amazon sunt construite pentru antrenarea modelelor de inteligență artificială. Startup-uri precum Databricks și Anthropic susținute de Amazon, intenționează să construiască modele cu noile cipuri Trainium2.
Procesoarele Graviton4 se bazează pe arhitectura Arm și consumă mai puțină energie decât cipurile de la Intel sau AMD . Graviton4 promite o performanță cu 30% mai bună decât actualele cipuri Graviton3.
Mai mult de 50.000 de clienți AWS folosesc deja cipuri Graviton, a precizat Amazon.
Bat palma cu Nvidia.
Nu e zonă A.I. în care compania lui Jensen Huang să nu se implice. Nvidia și AWS anunță un parteneriat prin care, noile cipuri H200, de 2 ori mai puternice decât actualul model de top H100 vor ajunge prima oară în mâna AWS. 16.000 de cipuri Nvidia H200 vor fi operate de AWS.