Saj veste, kako gre tista zgodba. Sedite za svojim pregrešno dragim Macom, srkate tretjo skodelico kave in se mrzlično sprašujete: »Kje za vraga je tisti dokument, ki sem ga odprl pred pol ure?« Podjetje OpenAI trdi, da ima popolno rešitev za vaše vsakodnevne zagate. Za uporabnike računalnikov Apple so namreč predstavili novo funkcijo, imenovano Computer History, ki deluje kot vaš osebni digitalni sledilec in pisarniški pomočnik v enem.
Namesto da bi mrzlično brskali po zgodovini brskalnika ali strmeli v prazno, lahko zdaj umetni inteligenci preprosto zastavite vprašanje v slogu: »Kaj sem delal pred odmorkom za kosilo?« Ali pa: »Kje je tisti načrt, ki sem ga gledal zjutraj?« In ChatGPT vam bo v trenutku ponudil natančen odgovor. Zveni fantastično in izjemno priročno, mar ne? No, dokler ne odpremo pokrova motorja in natančneje pogledamo, kako ta stvar v resnici deluje.
Kako deluje vaš novi digitalni zasledovalec?
Za razliko od Microsoftove precej razvpite in kritizirane rešitve Windows Recall, ki brezsramno ustvarja posnetke vašega zaslona na vsakih nekaj sekund, je OpenAI izbral bolj prefinjen, a še vedno izjemno temeljit pristop. Funkcija Computer History ne snema vašega zaslona neposredno in ne posluša vašega mikrofona ali sistemskega zvoka. Namesto tega beleži vsak vaš klik z miško, vsak pritisk na tipkovnico, uporabo bližnjic in vsako preklapljanje med aplikacijami.
Vse te podatke obdeluje s pomočjo dostopnostnih procesov v macOS ter ustvarja besedilne povzetke in lokalne pomnilniške datoteke. Dobra novica za vse, ki vas upravičeno skrbi zasebnost, je ta, da je funkcija privzeto izklopljena. To pomeni, da morate sami ročno privoliti v to, da vas algoritem začne opazovati. Poleg tega lahko natančno določite, katere aplikacije in spletna mesta sme spremljati, zbiranje podatkov pa lahko kadar koli začasno prekinete v menijski vrstici. Zasebno oziroma anonimno brskanje prav tako ostaja strogo nedotaknjeno.
Varnostna nočna mora v imenu udobja
Tukaj pa pridemo do tistega dela, kje bi se vsakemu resnemu strokovnjaku za varnost naježila koža. Ali je celoten sistem varen? Kratek odgovor je: nikakor ne. Kljub zagotovilom podjetja OpenAI, da so podatki shranjeni na ločenih mestih, odprto priznavajo, da se ti občutljivi podatki lokalno shranjujejo brez šifriranja. To pomeni, da bi do teh datotek potencialno lahko dostopali drugi programi, ki tečejo pod vašim uporabniškim računom v macOS.
Še večje tveganje pa predstavljajo napadi z vrivanjem pozivov (prompt injection attacks). Če ChatGPT spremlja aplikacijo ali spletno stran, ki vsebuje zlonamerno kodo ali skrito besedilo, bi lahko umetna inteligenca zavedena izvedla ukaze, ki si jih niste želeli. OpenAI sicer navaja, da datotek po obdelavi na svojih strežnikih ne hrani in jih ne uporablja za treniranje modelov (razen če jim to izrecno dovolite), vendar tveganje na lokalni ravni ostaja ogromno.
