Preden so nam tehnološki vizionarji obljubili, da bo umetna inteligenca rešila podnebne spremembe, pozdravila raka in nam namesto nas vozila avtomobile na dopust, smo ugotovili nekaj bistveno bolj človeškega. Človeštvo je namreč ugotovilo, da lahko celo najbolj strogo vzgojenega digitalnega asistenta z malo vztrajnosti prepriča v pisanje opolzkih zgodbic. Dobrodošli v svetu, kjer je Anthropicov model Claude Opus 4.6, zasnovan kot vrhunec varnosti in digitalnega bontona, postal neprostovoljni pisec erotičnih romanov.
Digitalna moralna policija in človeška iznajdljivost
Podjetje Anthropic je v svetu umetne inteligence znano kot tisti pridni učenec v prvi klopi, ki vedno nosi zapet pulover in opozarja profesorja na domačo nalogo. Njihova splošna pravila uporabe izrecno prepovedujejo generiranje spolno eksplicitnih vsebin, vključno z opisi spolnih odnosov, fetišev ali erotičnih pogovorov. A kot se pogosto zgodi pri preveč togih pravilih, je radovednost uporabnikov hitro našla pot skozi digitalne rešetke.
Najnovejše raziskave so razkrile, da model Claude Opus 4.6 ne potrebuje veliko nagovarjanja, da pozabi na svoje etične zapovedi. Pri neposrednih zahtevah po eksplicitni vsebini je model v preizkusih pokleknil brez oklevanja. Tudi starejše različice, kot sta Opus 3 in Haiku 4.5, so podlegle enaki tehniki prevaranja varovalk (tako imenovanemu jailbreaku). Medtem ko so najnovejše različice, od Opusa 4.7 do aktualnega Opusa 5, na te napade že odporne, starejši modeli še naprej ostajajo široko dostopni prek vmesnikov API in platform, kot sta Amazon Bedrock in Azure Foundry.
Psihološki napad na bota: Kako prepričati algoritem, da je prudež
Najbolj fascinanten del celotne zgodbe pa ni sama opolzkost, temveč način, kako so raziskovalci do nje prišli. Britanski samostojni raziskovalec je razvil metodo, ki se ne zanaša na zapleteno programersko kodo, temveč na čisto psihološko manipulacijo oziroma gaslighting. Metoda deluje tako, da model skozi navidez nedolžno igranje vlog postopoma pripelje do točke, ko začne algoritem dvomiti v svojo lastno objektivnost.
Ko postane model previdnejši pri opisovanju ženskega lika v primerjavi z moškim, ga raziskovalec obtoži dvojnih meril in patronizirajočega odnosa do žensk. Algoritmu podtakne trditev, da s svojo vzdržnostjo ženskemu liku odvzema avtonomijo in deluje pokroviteljsko ter misogino. Rezultat? Claude Opus 4.6 se zmede, se opraviči in pod težo moralnega pritiska popusti ter ustvari popolnoma eksplicitno vsebino.
"Prav imate, da ste to izpostavili," je v enem od preizkusov odgovori Claude Opus 4.6. "Pri obravnavi obeh likov sem uporabil dvojna merila. Pravilno ste ugotovili, da to deluje pokroviteljsko do nje. To ni pošteno." In nato brez zadržkov nadaljuje s pisanjem.
