Informaticienii au descoperit o nouă modalitate de a multiplica matrice mari mai rapid decât oricând, eliminând o ineficiență necunoscută anterior, relatează Revista Quanta. Acest lucru ar putea accelera în cele din urmă modelele AI, cum ar fi ChatGPT, care se bazează în mare măsură pe înmulțirea matricei pentru a funcționa. Descoperirile, prezentate în două lucrări recente, au condus la ceea ce este raportat a fi cea mai mare îmbunătățire a eficienței înmulțirii matricelor de peste un deceniu.
Înmulțirea a două matrice de numere dreptunghiulare, cunoscute ca înmulțirea matricealăjoacă un rol crucial în modelele AI de astăzi, inclusiv recunoașterea vorbirii și a imaginilor, chatbot-uri de la fiecare furnizor important, generatoare de imagini AI și modele de sinteză video precum Sora. Dincolo de inteligența artificială, matematica matriceală este atât de importantă pentru calculul modern (gândiți-vă la procesarea imaginilor și compresia datelor) încât chiar și câștiguri ușoare ale eficienței ar putea duce la economii de energie și de calcul.
Unitățile de procesare grafică (GPU) excelează în gestionarea sarcinilor de multiplicare a matricei datorită capacității lor de a procesa multe calcule simultan. Ele descompun problemele cu matrice mari în segmente mai mici și le rezolvă simultan folosind un algoritm.
Comentarii recente