Ascunzându -se în lumină
Anterior, echipa Cornell și -a dat seama cum să facă mici modificări la pixeli specifici pentru a spune dacă un videoclip a fost manipulat sau creat de AI. Dar succesul său depindea de creatorul videoclipului folosind o cameră specifică sau un model AI. Noua lor metodă, „Iluminarea codată cu zgomot” (NCI), abordează acele și alte deficiențe prin ascunderea filigramentelor în zgomotul aparent al surselor de lumină. O mică software poate face acest lucru pentru ecranele computerului și pentru anumite tipuri de iluminare a camerei, în timp ce lămpile de pe raft pot fi codate printr-un mic cip de computer atașat.
“Fiecare filigran poartă o versiune de timp cu fidelitate scăzută a videoclipului nemanipulat sub iluminare ușor diferită. Numim aceste videoclipuri de cod”, ” Spuse Davis. „Când cineva manipulează un videoclip, părțile manipulate încep să contrazică ceea ce vedem în aceste videoclipuri de cod, care ne permite să vedem unde s -au făcut modificări. Și dacă cineva încearcă să genereze videoclipuri false cu AI, videoclipurile cu cod rezultate arată doar ca variații aleatorii.” Deoarece filigranul este conceput pentru a arăta ca zgomot, este dificil de detectat fără a ști codul secret.
Echipa Cornell și -a testat metoda cu o gamă largă de tipuri de manipulare: schimbarea tăieturilor de urzeală, viteza și accelerația, de exemplu, și compunerea și adâncurile. Tehnica lor s -a dovedit robustă pentru lucruri precum nivelurile de semnal sub percepția umană, mișcarea subiectului și a camerei, blițul camerei, subiecții umani cu diferite tonuri de piele, niveluri diferite de compresie video și setări interioare și exterioare.
„Chiar dacă un adversar știe că tehnica este folosită și cumva își dă seama de coduri, meseria lor este încă mult mai grea”, ” Spuse Davis. „În loc să falsifice lumina pentru un singur videoclip, ei trebuie să falsifice fiecare videoclip de cod separat, iar toate aceste falsuri trebuie să fie de acord între ele.” Acestea fiind spuse, Davis a adăugat: „Aceasta este o problemă importantă în curs de desfășurare. Nu va dispărea și, de fapt, va deveni mai greu”, a adăugat el.
Tranzacții ACM pe grafică, 2025. DOI: 10.1145/3742892 (Despre Dois)