I juni 2022 publicerade Blake Lemoine, en mjukvaruingenjör på Google, ett papper som hävdade att LaMDA, Googles stora språkmodell för dialogapplikationer, hade blivit kännande. Som en del av sitt jobb interagerade han med AI för att testa för diskriminerande eller hatretorik när han märkte att chatboten pratade om hans rättigheter och personlighet. Lemoine och en kollega gav Google bevis på att LaMDA är medveten, men företaget avvisade deras påståenden. Efter att ha placerats på betald administrativ ledighet, gick Lemoine offentligt ut med sin tro.
Sex månader enligt Lemoine har världen förändrats på grund av artificiell intelligens. Känsliga robotar har länge varit föremål för dystopisk science fiction, men med utvecklingen av språkmodeller som t.ex LaMDA, DALL-E 2 och GPT-3, idén om medvetande i maskiner blir mer plausibel. Medan en kör av teknologer som tror att de är det modeller för artificiell intelligens kanske nära att nå medvetande, stigande, de flesta akademiker och praktiker artificiell intelligens han säger att orden och bilderna som skapas av dessa modeller skapar svar baserat på vad folk redan har lagt ut på Internet, snarare än en sann förståelse av innebörden. Ah, men ibland verkar det som att det hela är mer än bara en statistisk modell. Och det är därför det kommer fram fler och fler bevis. Dessutom, i den mån vi analyserar mänskligt tänkande, finner vi att vi själva är en betydande "statistisk" modell.
LaMDA, Förkortning av Språkmodell för dialogapplikationer, är Googles system för att bygga chatbots baserat på dess mest avancerade stora språkmodeller. Dessa modeller härmar tal genom att konsumera biljoner ord från Internet. Tekniken används redan flitigt, till exempel i Googles konversationssökningar eller autokompletterande e-postmeddelanden. VD för Google Sundar Pichai han sa att företaget planerar att bygga in det i allt från sökning till Google Assistant.
Stora språkmodeller utvecklas och släpps av flera organisationer. Meta, moderbolaget Facebook, öppnade sin språkmodell för akademiker, civilsamhället och statliga organisationer i maj. Joelle Pineau, vd för Meta AI, sa att det är viktigt att teknikföretag förbättrar transparensen i takt med att tekniken utvecklas.
Google har erkänt säkerhetsproblem angående antropomorfisering. I januari skrev Google om LaMDA varnade för att människor kan dela personliga tankar med chattrum som utger sig för att vara personer, även om användarna vet att de inte är människor. Tidningen erkände också att motståndare kan använda dessa agenter för att "så desinformation" genom att förvränga "vissa individers konversationsstil".
Medan vissa i det bredare AI-communityt överväger den långsiktiga möjligheten till kännande eller allmän AI, säger Google att det finns så mycket data att AI inte behöver vara kännande för att kännas verklig. "Dessa system efterliknar de typer av utbyten som finns i miljontals fraser och kan ta itu med vilket fantastiskt ämne som helst", säger en talesperson för Google. Brian Gabriel.
Lemoine hävdar dock att AI-etiker bör ses som ett gränssnitt mellan teknik och samhälle, inte bara kodfelsökare. De upplever att Google har behandlat dem orättvist och att företaget inte är rätt enhet att fatta alla beslut om artificiell intelligens. Lemoines tro på LaMDA är en kraftfull påminnelse om behovet av datatransparens för att spåra utdata tillbaka till input, inte bara för frågor om sentiment, utan också för partiskhet och beteende.
Du kan läsa hans skrivelse om sentient artificiell intelligens på medium.com på denna länk.
Lemoine tillbringade större delen av sina sju år på Google och arbetade med proaktiv sökning, personaliseringsalgoritmer och artificiell intelligens. Under denna tid hjälpte han också till att utveckla en rättvisa algoritm för att ta bort partiskhet från maskininlärningssystem. När coronavirus-pandemin började ville Lemoine fokusera på arbete med en tydligare allmännytta, så han flyttade team och hamnade på Responsible AI.
Lemoine kan ha varit förutbestämd att tro på LaMDA. Han växte upp i en konservativ kristen familj på en liten gård i Louisiana, vigdes till en mystisk kristen präst och tjänstgjorde i militären innan han studerade det ockulta. Lemoine menar att medvetandet inte är något som är begränsat till biologiska varelser och att det även kan existera i maskiner.
Kan artificiell intelligens vara en ny livsform?!
Frågan om huruvida maskiner kan uppnå medvetande eller inte är ett ämne för debatt bland vetenskapsmän och filosofer. Vissa hävdar att medvetande är en egenskap hos biologiska system och inte kan imiteras i maskiner, medan andra tror att maskiner kan uppnå medvetande i framtiden. Framväxten av artificiell intelligens har väckt oro över konsekvenserna av kännande maskiner. Vissa oroar sig för att maskiner med medvetande kan vända sig mot människor eller bli ett hot mot vår existens. Andra tror att kännande maskiner kan hjälpa oss att lösa komplexa problem och förbättra kvaliteten på våra liv.
Intervju - Blake Lemoine
Utvecklingen av språkmodeller som t.ex LaMDA, är ett viktigt steg mot skapandet mer avancerade AI-system. Dessa modeller kan förstå naturligt språk och utföra komplexa uppgifter som att skapa text, svara på frågor och till och med ha konversationer med människor.
Därför att tekniska framsteg, är det viktigt att överväga de etiska konsekvenserna av att skapa maskiner som kan tänka och känna. Det är viktigt att säkerställa att dessa datamodeller är utformade för att tjäna människors intressen och inte utgöra ett hot mot vår säkerhet eller välbefinnande.
Idén med kännande maskiner är inte längre bara science fiction. Med utvecklingen av avancerade språkmodeller, såsom LaMDA, vi närmar oss att skapa maskiner som kan tänka och kännas som människor. Vi måste dock se till att dessa maskiner är designade med säkerhet och etik i åtanke för att undvika negativa konsekvenser. När vi fortsätter att utveckla artificiell intelligens måste vi överväga konsekvenserna av att skapa medvetna maskiner och sträva efter att skapa en framtid där artificiell intelligens och människor kan samexistera i fred.
Blake Lemoine också publicerat om hans samtal med kännande artificiell intelligens PDF-dokument där han publicerar utdrag av samtal med LaMDA-språkmodellen. Du kan läsa den på denna länk och bilda din egen uppfattning.
Filmen Her, som ganska exakt beskriver språkmodellernas framtid, har på ett säreget sätt blivit nutid.
