Mărește / O fotografie Intel a acceleratorului Gaudi 3 AI. (credit: Intel)
Marți, Intel dezvăluit un nou cip accelerator AI numit Gaudi 3 la evenimentul său Vision 2024 din Phoenix. Cu performanță susținută puternică în timp ce rulează modele de limbi mari (cum ar fi cele care alimentează ChatGPT), compania a poziționat Gaudi 3 ca alternativă la Nvidia H100un GPU popular pentru centru de date care a fost supuse lipsurilordeși se pare că așa este ușurându-se oarecum.
În comparație cu cipul H100 de la Nvidia, Intel proiectează un timp de antrenament cu 50% mai rapid pe Gaudi 3 atât pentru GPT-3 175B LLM al OpenAI, cât și pentru versiunea cu 7 miliarde de parametri a lui Meta. Lama 2. În ceea ce privește inferența (rularea modelului antrenat pentru a obține rezultate), Intel susține că noul său cip AI oferă performanțe cu 50% mai rapide decât H100 pentru Llama 2 și Falcon 180Bcare sunt ambele modele cu greutăți deschise relativ populare.
Intel vizează H100 din cauza acestuia cota mare de piata, dar cip-ul nu este cel mai puternic cip accelerator AI al Nvidia în curs de dezvoltare. Anunturi ale H200 și Blackwell B200 de atunci au depășit H100 pe hârtie, dar niciunul dintre aceste cipuri nu este încă scos (H200 este așteptat în al doilea trimestru al anului 2024 — practic în orice zi acum).
Comentarii recente