Predstavljajte si, da bi birokrati v Bruslju izglasovali zakon, po katerem mora vsak nov avtomobil ob pritisku na plin tiho prepevati Odo radosti, da bi pešci takoj vedeli, da gre za motor na notranje izgorevanje. In potem se najde 22-letni programer, ki z enim samim klikom ta sistem izklopi, še preden uradniki sploh zapustijo svojo bruseljsko menzo. Točno to se je pravkar zgodi v svetu umetne inteligence.
Podjetje Anthropic, ustvarjalec priljubljenega jezikovnega modela Claude, je ponosno objavilo, da v vsa svoja generirana besedila globoko vgrajuje nevidne, strojno berljive vodne žige. Razlog za to potezo ni bila nenadna želja po dobrodelnosti, temveč nov evropski akt o umetni inteligenci (EU AI Act). Ta od ponudnikov zahteva strogo označevanje sintetičnih vsebin pod grožnjo drastičnih kazni, ki lahko dosežejo do 3 odstotke globalnega letnega prometa podjetja. A namesto praznovanja varnosti je sledil hladen tush in popolna blamaža.
Le štiri ure po objavi je francoski razvijalec Guillaume Meyer na platformi GitHub objavil odprtokodno kodo, ki te nevidne vodne žige povsem odstrani. Njegov rešitveni algoritem je v trenutku postal vihar na družbenih omrežjih, zbral več kot 20.000 zaznamkov na omrežju X in privabil na stotine razvijalcev, ki so kodo nemudoma vgradili v svoje lastne projekte. Birokratski zid se je porušil hitreje kot hišica iz kart.
Kako deluje vodni žig in zakaj je padel v nekaj minutah
Tehnologija nevidnega vodnega žiga, ki temelji na rešitvi SynthID (prvotno razviti pri Google DeepMind), ne deluje tako, da bi v besedilo odtisnila velik rdeč pečat. Namesto tega model pri izbiri besed in fraz uporablja specifičen, statistično zaznaven vzorec. Za človeka je besedilo povsem običajno in tekoče berljivo, računalniški detektor pa v tem skritem matematičnem vzorcu prepozna prstni odtis umetne inteligence.
Sliši se izjemno pametno, dokler ne ugotovite, kako smešno enostavno je ta odtis izbrisati. Meyerjeva metoda preprosto uporabi drug jezikovni model brez vodnih žigov, ki besedilo preoblikuje, zamenja sinonime in rahlo spremeni strukturo stavkov. Drugi programerji so za rešitev potrebovali še manj časa: programski inženir Erik Hughes je v le 15 minutah s pomočjo samega Clauda ustvaril spletno orodje, ki odstranjuje nevidne znake, premetava stavke znotraj odstavkov ter samodejno zamenjuje ključne besede.
Znanstvenik Leon Chlon z univerze v Oxfordu pa je dokazal še bolj abstrakten koncept bypassa: besedilo iz Clauda preprosto prevedete v drug jezik z povsem drugačno semantiko (na primer v arabščino), nato pa ga prevedete nazaj. Vodni žig? Počival v miru. Sam Anthropic je bil prisiljen uradno priznati, da močno spremenjena, parafrazirana ali prevedena besedila ne bodo ohranila svoje sledljivosti.
