Spammerii au folosit OpenAI pentru a genera mesaje unice pentru fiecare destinatar, permițându-le să ocolească filtrele de detectare a spamului și să explodeze mesaje nedorite către peste 80.000 de site-uri web în patru luni, au spus cercetătorii miercuri.
Constatarea, documentată într -un post Publicat de firma de securitate Sentinelone Sentinellabs, subliniază sabia cu două tăișuri, purtată de modele de limbaj mare. Același lucru care le face utile pentru sarcini benigne – lățimea datelor disponibile pentru acestea și capacitatea lor de a le folosi pentru a genera conținut la scară – poate fi adesea utilizat în activități rău intenționate la fel de ușor. Openai a revocat contul Spammers după ce a primit dezvăluirea lui Sentinellabs, dar cele patru luni în care activitatea a trecut neobservată arată cum aplicarea este adesea reactivă decât proactivă.
„Ești un asistent util”
Spam Blast este opera lui Akirabot- un cadru care automatizează trimiterea de mesaje în cantități mari pentru a promova servicii de optimizare a căutării umbroase pe site-urile de dimensiuni mici și mijlocii. Akirabot a folosit scripturi bazate pe Python pentru a roti numele de domeniu publicitate în mesaje. De asemenea, a folosit API-ul de chat al lui OpenAI legat de modelul GPT-4O-MINI pentru a genera mesaje unice personalizate pe fiecare site pe care l-a spamat, o tehnică care probabil a ajutat-o să ocolească filtrele care caută și să blocheze conținut identic trimis la un număr mare de site-uri. Mesajele sunt livrate prin formulare de contact și widget -uri de chat live încorporate în site -urile vizate.
Comentarii recente