Mărește / Când ChatGPT caută lucrurile, o pereche de mâini verzi pixelate se uită prin înregistrări de hârtie, cam așa. Glumeam. (credit: Benj Edwards / Getty Images)
Marți, OpenAI a anunţat că experimentează adăugarea unei forme de memorie pe termen lung la ChatGPT, care îi va permite să-și amintească detaliile dintre conversații. Puteți cere ChatGPT să-și amintească ceva, să vadă ce își amintește și să îi ceri să uite. În prezent, este disponibil doar pentru un număr mic de utilizatori ChatGPT pentru testare.
Până acum, modelele de limbaj mari au folosit de obicei două tipuri de memorie: una inclusă în modelul AI în timpul procesului de antrenament (înainte de implementare) și o memorie în context (istoricul conversațiilor) care persistă pe durata sesiunii. De obicei, ChatGPT uită ce i-ați spus în timpul unei conversații odată ce începeți o nouă sesiune.
Diverse proiecte au experimentat oferirea LLM-urilor o memorie care persistă dincolo de o fereastră de context. (Fereastra de context este limita strictă a numărului de jetoane pe care LLM le poate procesa simultan.) Tehnicile includ gestionarea dinamică a istoricului contextuluicomprimând istoricul anterior prin rezumare, link-uri către baze de date vectoriale care stochează informații în exterior sau pur și simplu injectând periodic informații într-un prompt de sistem (instrucțiunile pe care le primește ChatGPT la începutul fiecărui chat).
Comentarii recente