Predstavljajte si, da kupite vrhunskega superšportnika z atmosferskim dvanajstvaljnikom, ga brez zadržkov poženete na avtocesto, na prvem tehničnem pregledu pa osuplo ugotovite, da sploh nimate homologiranih zavor. Točno to trenutno počnejo številna globalna podjetja pri uvajanju rešitev generativne umetne inteligence. Vsi navdušeno govorijo o produktivnosti in digitalnih asistentih, ko pa na vrata potrka neizprosen evropski regulator, se bleščeča kulisa hitro sesuje v prah.
Bruseljska birokracija in kazni, ob katerih zaledeni kri
Evropska unija slovi po dveh stvareh: odlični kavi v preddverjih bruseljskih palač in naravnost fanatični strasti do regulacije vsega digitalnega. Z uveljavitvijo evropskega akta o umetni inteligenci (EU AI Act) so se šale dokončno zaključile. Zakonodaja namreč predvideva drakonske kazni, prilagojene teži prekrška.
Najvišja globa znaša do 35 milijonov evrov oziroma do 7 odstotkov celotnega svetovnega letnega prometa, vendar velja izključno za najhujše kršitve, torej za prepovedane prakse umetne inteligence po členu 5. Za kršitve obveznosti glede preglednosti, upravljanja ali predpisov za visoko tvegane sisteme pa zgornja meja globe znaša do 15 milijonov evrov oziroma 3 odstotke letnega prometa. Gre za zneske, ob katerih v hipu prebledi vsak finančni direktor.
Pravila igre so se temeljito zaostrila. Nikakor ne zadošča več, da organizacija le pasivno arhivira pogovore ali trdi, da ima vklopljene varnostne filtre. Regulatorji zdaj zahtevajo jasno revizijsko sled: kako je bilo tveganje prepoznano, kateri strokovnjak ga je ocenil, zakaj je bila sprejeta odločitev in kako se je primer zaključil.
Skladnost komunikacij: Podatkov je ogromno, dokazov pa malo
Težava skoraj nikoli ne tiči v pomanjkanju surovih podatkov. Strežniki korporacij se dobesedno utapljajo v terabajtih elektronske pošte, posnetkov sestankov in nepreglednih klepetov. Težava nastane, ker je ta masa neuporabna, če iz nje v kritičnem trenutku ne morete izluščiti pravno veljavne verige dokazov.
Kot v mnenjskem članku za TechRadar opozarja strokovnjakinja Soniya Bopache, je položaj na področju skladnosti komunikacijskih tokov v finančnem in korporativnem sektorju precej zaskrbljujoč. Čeprav ima več kot 55 odstotkov organizacij že sprejete interne pravilnike in izobraževanja, ima manj kot 19 odstotkov dejansko vpeljane tehnične mehanizme za avtomatizirano spremljanje, odkrivanje anomalij in točkovanje tveganj v komunikacijskih tokovih. Večina podjetij torej vozi v popolni temi in upa, da jih radar ne bo ujel.
Razdrobljenost sistemov prinaša operativni kaos
Klasičen nadzor komunikacij je v preteklosti temeljil na štetju preprostih operativnih postavk: številu opozoril, odprtih primerih in zaključenih preiskavah. Nadzornih organov takšna površinska statistika ne zanima več, saj zahtevajo dokazljiv vsebinski nadzor.
- Podatki o komunikacijskih tokovih se pogosto nahajajo v ločenih oblačnih shrambah.
- Delovni tokovi za spremljanje tveganj tečejo v povsem nepovezanih orodjih.
- Končne preiskovalne ugotovitve in revizijski dokazi ostajajo razpršeni v izoliranih mapah.
Ko regulator zahteva natančno pojasnilo, zakaj je določen algoritem v interakciji ponudil zavajajočo informacijo, brez integrirane revizijske sledi nastopi panika. Podjetje brez jasne povezave med opozorilom in človeško presojo ne more prepričljivo dokazati skladnosti.
Osebno mnenje
Čas je, da tehnološki sektor opusti iluzijo o popolni svobodi brez odgovornosti. Uvajanje naprednih orodij UI brez vzpostavljenega nadzora komunikacijskih tokov je enako lahkomiselno kot vožnja s hitrostjo 250 km/h brez pripetega varnostnega pasu. Naložba v specializirana orodja za skladnost komunikacij in revizijsko sledljivost, ki stanejo od nekaj deset tisoč do nekaj sto tisoč evrov, predstavlja zanemarljiv strošek v primerjavi z večmilijonskimi kaznimi. Roki za uveljavitev evropskega akta neizprosno tečejo, orodja za nadzor pa so na trgu že na voljo. Tehnologija je izjemna, a podjetniška naivnost vas lahko stane premoženje. Ali ima vaša organizacija že urejen dokazni postopek za primer inšpekcije, ali se še vedno zanašate na improvizirane preglednice?
