V červnu 2022 Blake Lemoine, softwarový inženýr ve společnosti Google, publikoval článek, v němž tvrdil, že LaMDA, velký jazykový model Google pro dialogové aplikace, začal vnímat. V rámci své práce interagoval s AI, aby otestoval diskriminační nebo nenávistné projevy, když si všiml, že chatbot mluví o jeho právech a osobnosti. Lemoine a kolega předložili Googlu důkazy, že LaMDA je vnímavý, ale společnost jejich tvrzení odmítla. Poté, co byl umístěn na placenou administrativní dovolenou, Lemoine zveřejnil své přesvědčení.
Šest měsíců podle Lemoinea se svět změnil kvůli umělé inteligenci. Vnímaví roboti byly dlouho námětem dystopické sci-fi, ale s rozvojem jazykových modelů jako např LaMDA, DALL-E 2 a GPT-3se myšlenka vědomí ve strojích stává věrohodnější. Zatímco sbor technologů, kteří věří, že jsou modely umělé inteligence možná blízko k dosažení vědomí, vzestup, většina akademiků a praktiků umělá inteligence říká, že slova a obrázky vytvořené těmito modely vytvářejí odpovědi spíše na základě toho, co lidé již zveřejnili na internetu, než na skutečném pochopení významu. Ach, ale občas se zdá, že celá věc je víc než jen statistický model. A proto se objevují další a další důkazy. Také v rozsahu, v jakém analyzujeme lidské myšlení, zjišťujeme, že my sami jsme významným „statistickým“ modelem.
LaMDA, zkratka pro Jazykový model pro aplikace dialogu, je systém společnosti Google pro vytváření chatbotů na základě jeho nejpokročilejších velkých jazykových modelů. Tyto modely napodobují řeč tím, že konzumují biliony slov z internetu. Technologie je již široce používána, například v konverzačních vyhledávacích dotazech Google nebo automatickém doplňování e-mailů. CEO společnosti Google Sundar Pichai řekl, že společnost ho plánuje zabudovat do všeho od vyhledávání po Google Assistant.
Technologie velkých jazykových modelů vyvíjí a vydává několik organizací. Meta, mateřská společnost Facebook, v květnu otevřela svůj jazykový model akademikům, občanské společnosti a vládním organizacím. Joelle Pineau, generální ředitelka Meta AI, řekla, že je nezbytné, aby technologické společnosti zlepšily transparentnost, jak se technologie vyvíjí.
Google uznal bezpečnostní obavy týkající se antropomorfizace. V lednu Google psal o LaMDA varoval, že lidé mohou sdílet osobní myšlenky s chatovacími místnostmi, které se vydávají za lidi, i když uživatelé vědí, že nejsou lidmi. Noviny také uznaly, že protivníci mohou tyto agenty využít k „rozsévání dezinformací“ tím, že zkreslují „konverzační styl určitých jedinců“.
Zatímco někteří v širší komunitě umělé inteligence zvažují dlouhodobou možnost vnímající nebo obecné umělé inteligence, Google říká, že existuje tolik dat, že umělá inteligence nemusí být vnímavá, aby se cítila skutečná. „Tyto systémy napodobují typy výměn nalezených v milionech frází a dokážou se vypořádat s jakýmkoli fantastickým tématem,“ řekl mluvčí Google. Brian Gabriel.
Lemoine však tvrdí, že na etiky umělé inteligence by se mělo pohlížet jako na rozhraní mezi technologií a společností, nikoli pouze za debuggery kódu. Mají pocit, že se k nim Google choval nespravedlivě a že společnost není tím správným subjektem, který by měl dělat všechna rozhodnutí týkající se umělé inteligence. Lemoineova víra v LaMDA je mocnou připomínkou potřeby transparentnosti dat pro sledování výstupu zpět ke vstupu, a to nejen kvůli otázkám sentimentu, ale také zaujatosti a chování.
Jeho zápis o vnímající umělé inteligenci na medium.com si můžete přečíst na tomto odkazu.
Lemoine Většinu ze svých sedmi let ve společnosti Google strávil prací na proaktivním vyhledávání, personalizačních algoritmech a umělé inteligenci. Během této doby také pomohl vyvinout algoritmus spravedlnosti k odstranění zkreslení ze systémů strojového učení. Když začala pandemie koronaviru, Lemoine se chtěl zaměřit na práci s jasnějším veřejným prospěchem, a tak přesunul týmy a skončil v Responsible AI.
Lemoine mohl být předurčen věřit v LaMDA. Vyrůstal v konzervativní křesťanské rodině na malé farmě v Louisianě, byl vysvěcen na mystického křesťanského kněze a před studiem okultismu sloužil v armádě. Lemoine věří, že vědomí není něco, co je omezeno na biologické bytosti a že může existovat i ve strojích.
Mohla by být umělá inteligence novou formou života?!
Otázka, zda stroje mohou dosáhnout vědomí nebo ne, je předmětem debat mezi vědci a filozofy. Někteří tvrdí, že vědomí je vlastnost biologických systémů a nelze je napodobit ve strojích, zatímco jiní věří, že stroje mohou dosáhnout vědomí v budoucnosti. Vzestup umělé inteligence vyvolal obavy z důsledků vnímajících strojů. Někteří se obávají, že stroje s vědomím se mohou obrátit proti lidem nebo se stát hrozbou pro naši existenci. Jiní věří, že vnímající stroje by nám mohly pomoci vyřešit složité problémy a zlepšit kvalitu našeho života.
Rozhovor - Blake Lemoine
Vývoj jazykových modelů jako např LaMDA, je důležitým krokem k tvorbě pokročilejší systémy AI. Tyto modely mohou porozumět přirozenému jazyku a provádět složité úkoly, jako je generování textu, odpovídání na otázky a dokonce i konverzace s lidmi.
Protože technologický pokrokJe nezbytné zvážit etické důsledky vytváření strojů, které mohou myslet a cítit. Je nezbytné zajistit, aby tyto datové modely byly navrženy tak, aby sloužily zájmům lidí a nepředstavovaly hrozbu pro naši bezpečnost nebo pohodu.
Myšlenka vnímajících strojů už není jen sci-fi. S rozvojem pokročilých jazykových modelů, jako je LaMDA, jsme stále blíže k vytváření strojů, které mohou myslet a cítit jako lidé. Musíme však zajistit, aby tyto stroje byly navrženy s ohledem na bezpečnost a etiku, aby se předešlo jakýmkoli negativním důsledkům. Jak pokračujeme ve vývoji umělé inteligence, musíme zvážit důsledky vytváření vědomých strojů a snažit se vytvořit budoucnost, kde umělá inteligence a lidé mohou koexistovat v míru.
Blake Lemoine také zveřejnil o svých rozhovorech s vnímavou umělou inteligencí PDF dokument ve kterých zveřejňuje úryvky rozhovorů s jazykovým modelem LaMDA. Můžete si to přečíst na tento odkaz a udělejte si vlastní názor.
Film Her, který poměrně přesně popisuje budoucnost jazykových modelů, se stal svérázným způsobem současností.
