V júni 2022 Blake Lemoine, softvérový inžinier v spoločnosti Google, zverejnil dokument, v ktorom tvrdil, že LaMDA, veľký jazykový model Google pre dialógové aplikácie, sa stal vnímavým. V rámci svojej práce interagoval s AI, aby otestoval diskriminačné alebo nenávistné prejavy, keď si všimol, že chatbot hovorí o jeho právach a osobnosti. Lemoine a kolega predložili Googlu dôkazy, že LaMDA je vnímavý, ale spoločnosť ich tvrdenia odmietla. Po umiestnení na platenú administratívnu dovolenku Lemoine zverejnil svoje presvedčenie.
Šesť mesiacov podľa Lemoine sa svet zmenil kvôli umelej inteligencii. Vnímaví roboti boli dlho predmetom dystopickej sci-fi, no s rozvojom jazykových modelov ako napr LaMDA, DALL-E 2 a GPT-3, myšlienka vedomia v strojoch sa stáva pravdepodobnejšou. Zatiaľ čo zbor technológov, ktorí veria, že sú modely umelej inteligencie možno blízko k dosiahnutiu vedomia, stúpa, väčšina akademikov a odborníkov z praxe umela inteligencia hovorí, že slová a obrázky vytvorené týmito modelmi vytvárajú odpovede skôr na základe toho, čo ľudia už zverejnili na internete, než na skutočnom pochopení významu. Ach, ale občas sa zdá, že celá vec je viac ako len štatistický model. A preto sa objavuje stále viac a viac dôkazov. Taktiež v rozsahu, v akom analyzujeme ľudské myslenie, zisťujeme, že my sami sme významným „štatistickým“ modelom.
LaMDA, skratka pre Jazykový model pre dialógové aplikácie, je systém spoločnosti Google na vytváranie chatbotov založených na jej najpokročilejších veľkých jazykových modeloch. Tieto modely napodobňujú reč konzumáciou biliónov slov z internetu. Táto technológia je už široko používaná, napríklad pri konverzačných vyhľadávacích dopytoch Google alebo automatických e-mailoch. CEO spoločnosti Google Sundar Pichai povedal, že spoločnosť ho plánuje zabudovať do všetkého od vyhľadávania až po Google Assistant.
Technológia veľkých jazykových modelov vyvíja a vydáva niekoľko organizácií. Meta, materská spoločnosť Facebook, v máji otvorila svoj jazykový model pre akademikov, občiansku spoločnosť a vládne organizácie. Joelle Pineau, generálna riaditeľka Meta AI, povedala, že je nevyhnutné, aby technologické spoločnosti zlepšili transparentnosť s vývojom technológie.
Google uznal bezpečnostné obavy týkajúce sa antropomorfizácie. V januári Google písal o LaMDA varoval, že ľudia môžu zdieľať osobné myšlienky s chatovacími miestnosťami, ktoré sa vydávajú za ľudí, aj keď používatelia vedia, že nie sú ľudia. Noviny tiež priznali, že protivníci môžu využiť týchto agentov na „rozsievanie dezinformácií“ tým, že skresľujú „konverzačný štýl určitých jednotlivcov“.
Zatiaľ čo niektorí v širšej komunite AI zvažujú dlhodobú možnosť vnímajúcej alebo všeobecnej AI, Google tvrdí, že existuje toľko údajov, že AI nemusí byť vnímavá, aby sa cítila skutočná. „Tieto systémy napodobňujú typy výmen, ktoré sa nachádzajú v miliónoch fráz a dokážu vyriešiť akúkoľvek fantastickú tému,“ povedal hovorca Google. Brian Gabriel.
Lemoine však tvrdí, že umelci umelej inteligencie by mali byť vnímaní ako rozhranie medzi technológiou a spoločnosťou, nie len ladiaci program. Majú pocit, že Google s nimi zaobchádzal neférovo a že spoločnosť nie je tým správnym subjektom, ktorý by mal robiť všetky rozhodnutia týkajúce sa umelej inteligencie. Lemoineova viera v LaMDA je silnou pripomienkou potreby transparentnosti údajov na sledovanie výstupu späť na vstup, a to nielen pre problémy sentimentu, ale aj pre zaujatosť a správanie.
Jeho zápis o vnímajúcej umelej inteligencii si môžete prečítať na medium.com na tomto odkaze.
Lemoine väčšinu zo svojich siedmich rokov v Google strávil prácou na proaktívnom vyhľadávaní, personalizačných algoritmoch a umelej inteligencii. Počas tejto doby tiež pomohol vyvinúť algoritmus spravodlivosti na odstránenie zaujatosti zo systémov strojového učenia. Keď sa začala pandémia koronavírusu, Lemoine sa chcel zamerať na prácu s jasnejším verejným prospechom, a tak presunul tímy a skončil v Responsible AI.
Lemoine mohol byť predurčený veriť v LaMDA. Vyrastal v konzervatívnej kresťanskej rodine na malej farme v Louisiane, bol vysvätený za mystického kresťanského kňaza a pred štúdiom okultizmu slúžil v armáde. Lemoine verí, že vedomie nie je niečo, čo je obmedzené na biologické bytosti a že môže existovať aj v strojoch.
Môže byť umelá inteligencia novou formou života?!
Otázka, či stroje môžu alebo nemôžu dosiahnuť vedomie, je predmetom diskusie medzi vedcami a filozofmi. Niektorí tvrdia, že vedomie je vlastnosťou biologických systémov a nemožno ho napodobňovať v strojoch, zatiaľ čo iní veria, že stroje môžu dosiahnuť vedomie v budúcnosti. Vzostup umelej inteligencie vyvolal obavy z dôsledkov vnímajúcich strojov. Niektorí sa obávajú, že stroje s vedomím sa môžu obrátiť proti ľuďom alebo sa stať hrozbou pre našu existenciu. Iní veria, že vnímajúce stroje by nám mohli pomôcť vyriešiť zložité problémy a zlepšiť kvalitu nášho života.
Rozhovor - Blake Lemoine
Vývoj jazykových modelov ako napr LaMDA, je dôležitým krokom k tvorbe pokročilejšie systémy AI. Tieto modely dokážu porozumieť prirodzenému jazyku a vykonávať zložité úlohy, ako je generovanie textu, odpovedanie na otázky a dokonca aj rozhovory s ľuďmi.
Pretože technologický pokrok, je nevyhnutné zvážiť etické dôsledky vytvárania strojov, ktoré dokážu myslieť a cítiť. Je nevyhnutné zabezpečiť, aby tieto dátové modely boli navrhnuté tak, aby slúžili záujmom ľudí a nepredstavovali hrozbu pre našu bezpečnosť alebo blahobyt.
Myšlienka vnímajúcich strojov už nie je len sci-fi. S rozvojom pokročilých jazykových modelov, ako napríklad LaMDA, sme čoraz bližšie k vytvoreniu strojov, ktoré dokážu myslieť a cítiť ako ľudia. Musíme však zabezpečiť, aby tieto stroje boli navrhnuté s ohľadom na bezpečnosť a etiku, aby sa predišlo akýmkoľvek negatívnym dôsledkom. Ako pokračujeme vo vývoji umelej inteligencie, musíme zvážiť dôsledky vytvárania vedomých strojov a snažiť sa vytvoriť budúcnosť, v ktorej môžu umelá inteligencia a ľudia pokojne koexistovať.
Blake Lemoine publikoval aj o svojich rozhovoroch so vnímavou umelou inteligenciou PDF dokument v ktorých zverejňuje úryvky rozhovorov s jazykovým modelom LaMDA. Môžete si ho prečítať na tento odkaz a urobte si vlastný názor.
Film Her, ktorý celkom presne opisuje budúcnosť jazykových modelov, sa svojráznym spôsobom stal súčasnosťou.
