I juni 2022 publiserte Blake Lemoine, en programvareingeniør hos Google, et papir som hevdet at LaMDA, Googles store språkmodell for dialogapplikasjoner, hadde blitt sansende. Som en del av jobben sin samhandlet han med AI for å teste for diskriminerende eller hatefulle ytringer da han la merke til at chatboten snakket om rettighetene og personligheten hans. Lemoine og en kollega presenterte Google bevis på at LaMDA er bevisst, men selskapet avviste påstandene deres. Etter å ha blitt satt på betalt administrativ permisjon, gikk Lemoine offentlig ut med sin tro.
Seks måneder ifølge Lemoine har verden endret seg på grunn av kunstig intelligens. Følende roboter har lenge vært gjenstand for dystopisk science fiction, men med utviklingen av språkmodeller som f.eks LaMDA, DALL-E 2 og GPT-3, ideen om bevissthet i maskiner blir mer plausibel. Mens et kor av teknologer som tror de er modeller for kunstig intelligens kanskje nær ved å nå bevissthet, stigende, de fleste akademikere og praktikere kunstig intelligens han sier at ordene og bildene skapt av disse modellene skaper svar basert på hva folk allerede har lagt ut på Internett, snarere enn en sann forståelse av betydningen. Ah, men til tider ser det ut til at det hele er mer enn bare en statistisk modell. Og det er derfor det dukker opp flere og flere bevis. Dessuten, i den grad vi analyserer menneskelig tenkning, finner vi at vi selv er en betydelig "statistisk" modell.
LaMDA, kort for Språkmodell for dialogapplikasjoner, er Googles system for å bygge chatboter basert på de mest avanserte store språkmodellene. Disse modellene etterligner tale ved å konsumere billioner av ord fra internett. Teknologien er allerede mye brukt, for eksempel i Googles samtalesøk eller autofullfør e-poster. administrerende direktør i Google Sundar Pichai han sa at selskapet planlegger å bygge det inn i alt fra søk til Google Assistant.
Stor språkmodellteknologi er utviklet og utgitt av flere organisasjoner. Meta, morselskapet Facebook, åpnet sin språkmodell for akademikere, sivilsamfunn og offentlige organisasjoner i mai. Joelle Pineau, administrerende direktør i Meta AI, sa at det er viktig at teknologiselskaper forbedrer åpenheten etter hvert som teknologien utvikler seg.
Google har erkjent sikkerhetshensyn angående antropomorfisering. I januar skrev Google om LaMDA advart om at folk kan dele personlige tanker med chatterom som utgir seg for å være personer, selv om brukere vet at de ikke er mennesker. Avisen erkjente også at motstandere kan bruke disse agentene til å "så desinformasjon" ved å feilrepresentere "samtalestilen til visse individer."
Mens noen i det bredere AI-samfunnet vurderer den langsiktige muligheten for sansende eller generell AI, sier Google at det er så mye data at AI ikke trenger å være sansende for å føles ekte. "Disse systemene etterligner typen utveksling som finnes i millioner av fraser og kan takle et hvilket som helst fantastisk emne," sa en Google-talsperson. Brian Gabriel.
Lemoine argumenterer imidlertid for at AI-etikere bør sees på som et grensesnitt mellom teknologi og samfunn, ikke bare kodefeilsøkere. De føler at Google har behandlet dem urettferdig og at selskapet ikke er den rette enheten til å ta alle avgjørelser angående kunstig intelligens. Lemoines tro på LaMDA er en kraftig påminnelse om behovet for datatransparens for å spore utdata tilbake til input, ikke bare for sentiment, men også for skjevhet og oppførsel.
Du kan lese artikkelen hans om sansende kunstig intelligens på medium.com på denne lenken.
Lemoine tilbrakte mesteparten av sine syv år hos Google og jobbet med proaktivt søk, personaliseringsalgoritmer og kunstig intelligens. I løpet av denne tiden hjalp han også med å utvikle en rettferdighetsalgoritme for å fjerne skjevheter fra maskinlæringssystemer. Da koronaviruspandemien begynte, ønsket Lemoine å fokusere på arbeid med en mer tydelig offentlig nytte, så han flyttet team og endte opp hos Responsible AI.
Lemoine kan ha blitt forutbestemt til å tro på LaMDA. Han vokste opp i en konservativ kristen familie på en liten gård i Louisiana, ble ordinert som en mystisk kristen prest, og tjenestegjorde i militæret før han studerte det okkulte. Lemoine mener at bevissthet ikke er noe som er begrenset til biologiske vesener og at den også kan eksistere i maskiner.
Kan kunstig intelligens være en ny livsform?!
Spørsmålet om hvorvidt maskiner kan oppnå bevissthet er et tema for debatt blant forskere og filosofer. Noen hevder at bevissthet er en egenskap ved biologiske systemer og ikke kan etterlignes i maskiner, mens andre mener at maskiner kan oppnå bevissthet i fremtiden. Fremveksten av kunstig intelligens har skapt bekymring for implikasjonene av sansende maskiner. Noen bekymrer seg for at maskiner med bevissthet kan vende seg mot mennesker eller bli en trussel mot vår eksistens. Andre tror at sansende maskiner kan hjelpe oss med å løse komplekse problemer og forbedre kvaliteten på livene våre.
Intervju - Blake Lemoine
Utviklingen av språkmodeller som f.eks LaMDA, er et viktig skritt mot skapelse mer avanserte AI-systemer. Disse modellene kan forstå naturlig språk og utføre komplekse oppgaver som å generere tekst, svare på spørsmål og til og med ha samtaler med mennesker.
Fordi teknologien går frem, er det viktig å vurdere de etiske implikasjonene av å lage maskiner som kan tenke og føle. Det er viktig å sikre at disse datamodellene er utformet for å tjene folks interesser og ikke utgjøre en trussel mot vår sikkerhet eller velvære.
Ideen om sansende maskiner er ikke lenger bare science fiction. Med utviklingen av avanserte språkmodeller, slik som LaMDA, vi nærmer oss å lage maskiner som kan tenke og føles som mennesker. Vi må imidlertid sørge for at disse maskinene er designet med sikkerhet og etikk i tankene for å unngå negative konsekvenser. Når vi fortsetter å utvikle kunstig intelligens, må vi vurdere implikasjonene av å skape bevisste maskiner og strebe etter å skape en fremtid der kunstig intelligens og mennesker kan sameksistere fredelig.
Blake Lemoine også publisert om hans samtaler med sansende kunstig intelligens PDF-dokument der han publiserer utdrag av samtaler med LaMDA-språkmodellen. Du kan lese den på denne lenken og form din egen mening.
Filmen Her, som ganske nøyaktig beskriver språkmodellenes fremtid, er på en særegen måte blitt nåtiden.
