Teigiama, kad programinės įrangos kūrėjas sugebėjo atkurti Google DeepMind sukurto SynthID vandens ženklų sistemos veikimą, parodydamas, kaip galima pašalinti AI sugeneruotų vaizdų vandens ženklus arba juos rankiniu būdu įterpti į kitus kūrinius. Tačiau Google šiuos teiginius neigia, teigdama, kad jie nėra tiesa.
Atviras kodas ir kūrėjo eksperimentai
Kūrėjas, naudojantis prisijungimo vardą Aloshdenny, savo darbą paskelbė „GitHub“ platformoje ir išsamiai aprašė savo procesą, teigdamas, kad viskam atlikti prireikė 200 Gemini sugeneruotų vaizdų, signalų apdorojimo ir „per daug laisvo laiko“. Taip pat jis paminėjo, kad šiek tiek kanapių taip pat padėjo.
„Jokių neuroninių tinklų. Jokių specialių teisių“, – rašė Aloshdenny. „Pasirodo, jei esi bedarbis ir turi pakankamai „švaraus juodo“ AI sugeneruotų vaizdų, kiekvienas ne nulinis pikselis yra tiesiog vandens ženklas, žvelgiantis į tave.“
SynthID veikimas ir tikslai
SynthID yra beveik nematoma vandens ženklų sistema, kuri žymi turinį, sukurtą naudojant Google AI įrankius, įterpdama save į vaizdų pikselius jų sukūrimo metu. Sistema buvo sukurta taip, kad būtų sunku pašalinti, nes tai gali pabloginti vaizdo kokybę, ir ji plačiai naudojama visose AI produktų linijose, kurias siūlo Google. Visi produktai, sukurti naudojant modelius kaip Nano Banana ir Veo 3, turi SynthID vandens ženklus.
Aloshdenny teigia, kad jis rado šią sistemą „iš tiesų gerai sukonstruotą“, tačiau atlikdamas bandymus vis tiek negalėjo visiškai pašalinti SynthID, o vietoj to pasikliaudavo painiomis SynthID dekoderiais, kurie bando perskaityti vandens ženklu pažymėtus vaizdus.
Atviras procesas
Aloshdenny proceso aprašymas, kaip jis bandė iššifruoti Google vandens ženklų mechaniką, yra techniškai sudėtingas tiems, kurie nėra programuotojai. Pateikiame supaprastintą paaiškinimą:
- Generuoti 200 visiškai juodų arba baltų vaizdų naudojant Gemini. Padidinti kontrastą ir sutinimą, tada sumažinti triukšmą, kad atskleistumėte vandens ženklų modelius.
- Vidutinė šių modelių analizė, siekiant nustatyti vandens ženklų signalo amplitudę ir fazę kiekviename dažnio binas, pagal kanalą.
- Ieškoti šių dažnių požymių vaizduose ir dalinai juos pašalinti tokiu pačiu kampu, kuriuo jie buvo įterpti generavimo metu.
„Faktas, kad geriausia, ką galėjau padaryti, buvo pakankamai supainioti dekoderį, kad jis pasiduotų – tai nėra tikras pašalinimas – daug pasako apie tai, kaip gerai jis buvo suprojektuotas“, – sakė Aloshdenny. „Tai nėra tobulas. Bet jis nesiūlo būti nepažeidžiamas. Jis bando pakelti netinkamo naudojimo kainą pakankamai aukštai, kad dauguma žmonių nesiruošia to daryti.“
Google pozicija
Nors Aloshdenny teigė, kad jam pavyko iššifruoti SynthID, Google nesutinka su šiais teiginiais. „Neteisinga teigti, kad šis įrankis gali sistemingai pašalinti SynthID vandens ženklus“, – sakė Google atstovė Myriam Khan. „SynthID yra tvirta, veiksminga vandens ženklų sistema AI sugeneruotam turiniui.“
https://x.com/BigmeEInkTablet/status/2043622031967883364
https://x.com/evleaks/status/2043952960074342654
