Živimo v času, ko lahko umetna inteligenca v nekaj sekundah ustvari fotorealistično sliko, napiše diplomsko nalogo ali posname glasovni posnetek, ki zveni bolj prepričljivo kot vaš lokalni radijski voditelj. Ker pa meja med resničnostjo in digitalno iluzijo postaja vse bolj zamegljena, je vprašanje preglednosti postalo ključno. Ali AI platforme dejansko označujejo svoje stvaritve z »vodnimi žigi«? In ali jim lahko verjamemo na besedo, ko pravijo, da to počnejo?
Da bi prišli stvari do dna, je bila izvedena nenavadna preiskava: AI modele (Anthropic Claude, Google DeepMind, OpenAI in Microsoft Copilot) se je prek natančnega ukaza (prompta) postavilo v vlogo lastnih inženirjev, ki morajo javnosti razkriti svoje karte. Da pa zadeva ne bi ostala le pri PR-olepševanju, je njihove odgovore z vidika dejstev preveril še en nevtralni AI model – KIMI. Izakazalo se je, da je svet umetne inteligence poln napihnjenih obljub, a tudi izjemnih tehnoloških rešitev.
Anthropic in Claude: Skriti statistični triki v besedilu
Pri podjetju Anthropic trdijo, da njihov model Claude od 11. avgusta 2026 vse ustvarjene vsebine označi v skladu z 2. odstavkom 50. člena Evropskega akta o umetni inteligenci. Pristop je razdeljen na dva dela:
Tekstovni vodni žig: V besedilo ne vstavljajo vidnih znakov, temveč nevidni statistični žig vgrajujejo neposredno v izbiro »tokenov« (najmanjših enot besedila). Takšen signal preživi klasično kopiranje in lepljenje ter manjše popravke, odpove pa pri parafraziranju.
Slikovne datoteke: Za datoteke (.svg, .png, .jpg) uporabljajo mednarodni standard metapodatkov C2PA, ki beleži celotno zgodovino obdelave.
A kje se zatakne? Claude v svojem odgovoru navaja, da orodij za detekcijo še niso javno objavili, zato zunanje osebe ne morejo preveriti njihovih oznak. Brezpogojni preglednik KIMI pa opozarja na napako: metapodatke C2PA na slikovnih datotekah lahko namreč že danes popolnoma neodvisno preveri vsakdo z brezplačnimi orodji, kot je Content Credentials Verify. Claude je torej po nepotrebnem zmanjšal pomen lastne preglednosti!
Google DeepMind: Je SynthID res »univerzalni« standard?
Google DeepMind velja za pionirja na področju celostnega označevanja vsebin. Njihova tehnologija SynthID pokriva vse ključne medije – slike, video, zvok in besedilo.
Pri slikovnih in zvočnih datotekah SynthID spremembe vgradi neposredno v piksle oz. zvočne spektrograme. Te spremembe so človeškemu očesu in ušesu nevidne ter neuslišane, a izjemno odporne na izrezovanje (cropping), stiskanje (kompresijo) ali spremembo ločljivosti. Za besedilo so razvili orodje SynthID Text, ki deluje na podlagi t. i. turnirskega vzorčenja (tournament sampling) in od oktobra 2024 kot odprta koda živi v knjižnici Hugging Face Transformers (različica 4.46+ pod licenco Apache 2.0).
SynthID Text je bil celo matematično recenziran in objavljen v prestižni znanstveni reviji Nature (oktober 2024).
Vendar pa je Google v svojem navdušenju nekoliko pretiraval. Trditev, da je SynthID postala »de facto medindustrijska konvencija«, ki so jo sprejeli vsi giganti, ne drži povsem. Čeprav je OpenAI maja 2026 integriral SynthID za slike in kasneje za zvok, večina trga te tehnologije še vedno ne uporablja. Poleg tega ostaja SynthID za slike, video in zvok strogo zaprtokodna lastniška tehnologija Googla.
OpenAI: Brez vodnega žiga na besedilu, a z dvojno zaščito za slike
Pri OpenAI so glede besedila presenetljivo iskreni. Vodnega žiga za generirano besedilo v svojih javnih produktih ne uporabljajo. Čeprav so sistem razvili in je v internih testih deloval odlično, so se za ta korak odločili zaradi dveh razlogov: takšen žig je razmeroma lahko zaobiti, uporabniki pa so v raziskavah izrazili močan odpor do takšnega sledenja. Prav tako so že julija 2023 umaknili svoje orodje AI Text Classifier, saj ni dosegalo zadovoljive natančnosti.
Povsem druga zgodba pa velja za slikovne in zvočne vsebine:
