O nouă abordare a calculatoarelor ar putea dubla viteza de procesare a dispozitivelor precum telefoanele sau laptopurile fără a fi nevoie să înlocuiți niciuna dintre componentele existente.
Dispozitivele moderne sunt echipate cu diferite cipuri care se ocupă de diferite tipuri de procesare. Pe lângă unitatea centrală de procesare (CPU), dispozitivele au unități de procesare grafică (GPU), acceleratoare hardware pentru încărcături de lucru cu inteligență artificială (AI) și unități de procesare a semnalului digital pentru procesarea semnalelor audio.
Cu toate acestea, datorită modelelor convenționale de execuție a programelor, aceste componente procesează datele dintr-un program separat și în secvență, ceea ce încetinește timpul de procesare.
Informația se mută de la o unitate la alta, în funcție de care este cea mai eficientă în manipularea unei anumite regiuni de cod dintr-un program. Acest lucru creează un blocaj, deoarece un procesor trebuie să-și termine treaba înainte de a preda o nouă sarcină următorului procesor din linie.
Pentru a rezolva acest lucru, oamenii de știință au conceput un nou cadru pentru execuția programului în care unitățile de procesare lucrează în paralel. Echipa a subliniat noua abordare, denumită „multithreading simultan și eterogen (SHMT)” într-o lucrare publicată în decembrie 2023 pe serverul de pretipărire arXiv.
SHMT utilizează unități de procesare simultan pentru aceeași regiune de cod – în loc să aștepte ca procesoarele să lucreze pe diferite regiuni ale codului într-o secvență bazată pe componenta care este cea mai bună pentru o anumită sarcină de lucru.
O altă metodă folosită în mod obișnuit pentru a rezolva acest blocaj este cunoscută sub numele de „conducta software” și accelerează lucrurile, lăsând diferite componente să lucreze la diferite sarcini în același timp, mai degrabă decât să aștepte ca un procesor să se termine înainte ca celălalt să înceapă să funcționeze.
Cu toate acestea, în pipelining software, o singură sarcină nu poate fi niciodată distribuită între diferite componente. Acest lucru nu este valabil pentru SHMT, care permite diferitelor unități de procesare să lucreze în aceeași regiune de cod în același timp, permițându-le în același timp să preia noi sarcini de lucru odată ce și-au făcut partea lor.
„Nu trebuie să adăugați procesoare noi pentru că le aveți deja”, autorul principal Hung-Wei Tsengprofesor asociat de inginerie electrică și informatică la Universitatea din California, Riverside, a spus într-un afirmație.
Oamenii de știință au aplicat SHMT unui sistem prototip pe care l-au construit cu un procesor ARM multi-core, un GPU Nvidia și un accelerator hardware de unitate de procesare tensorală (TPU). În teste, a efectuat sarcini de 1,95 de ori mai rapid și a consumat cu 51% mai puțină energie decât un sistem care a funcționat în mod convențional.
De asemenea, SHMT este mai eficient din punct de vedere energetic, deoarece o mare parte din munca care este în mod normal gestionată exclusiv de componente mai consumatoare de energie – cum ar fi GPU-ul – poate fi descărcată către acceleratoare hardware cu putere redusă.
Dacă acest cadru software este aplicat sistemelor existente, ar putea reduce costurile hardware, reducând în același timp și emisiile de carbon, susțin oamenii de știință, deoarece este nevoie de mai puțin timp pentru a gestiona sarcinile de lucru folosind componente mai eficiente din punct de vedere energetic. De asemenea, ar putea reduce cererea de apă dulce pentru răcirea centrelor de date masive – dacă tehnologia este utilizată în sisteme mai mari.
Cu toate acestea, studiul a fost doar o demonstrație a unui sistem prototip. Cercetătorii au avertizat că sunt necesare lucrări suplimentare pentru a determina modul în care un astfel de model poate fi implementat în setări practice și de ce cazuri de utilizare sau aplicații va beneficia cel mai mult.