I juni 2022 offentliggjorde Blake Lemoine, en softwareingeniør hos Google, et papir, der hævdede, at LaMDA, Googles store sprogmodel for dialogapplikationer, var blevet sansende. Som en del af sit job interagerede han med AI for at teste for diskriminerende eller hadefulde ytringer, da han bemærkede, at chatbotten talte om hans rettigheder og personlighed. Lemoine og en kollega præsenterede Google for beviser på, at LaMDA er opmærksomme, men virksomheden afviste deres påstande. Efter at være blevet sat på betalt administrativ orlov, gik Lemoine offentligt ud med sin tro.
Seks måneder ifølge Lemoine har verden ændret sig på grund af kunstig intelligens. Følende robotter har længe været genstand for dystopisk science fiction, men med udviklingen af sprogmodeller som f.eks LaMDA, DALL-E 2 og GPT-3, bliver ideen om bevidsthed i maskiner mere plausibel. Mens et kor af teknologer, der tror, de er modeller af kunstig intelligens måske tæt på at nå bevidsthed, stigende, de fleste akademikere og praktikere kunstig intelligens han siger, at de ord og billeder, der er skabt af disse modeller, skaber svar baseret på, hvad folk allerede har postet på internettet, snarere end en sand forståelse af betydningen. Ah, men til tider ser det ud til, at det hele er mere end blot en statistisk model. Og det er derfor, der dukker flere og flere beviser op. Også i det omfang, vi analyserer menneskelig tænkning, finder vi, at vi selv er en betydelig "statistisk" model.
LaMDA, forkortelse for Sprogmodel for dialogapplikationer, er Googles system til at bygge chatbots baseret på dets mest avancerede store sprogmodeller. Disse modeller efterligner tale ved at forbruge billioner af ord fra internettet. Teknologien er allerede meget brugt, for eksempel i Googles samtalesøgningsforespørgsler eller autofuldførelsesmails. CEO for Google Sundar Pichai han sagde, at virksomheden planlægger at bygge det ind i alt fra søgning til Google Assistant.
Stor sprogmodelteknologi er udviklet og frigivet af flere organisationer. Meta, moderselskabet Facebook, åbnede sin sprogmodel for akademikere, civilsamfundet og statslige organisationer i maj. Joelle Pineau, CEO for Meta AI, sagde, at det er vigtigt, at teknologivirksomheder forbedrer gennemsigtigheden, efterhånden som teknologien udvikler sig.
Google har erkendt sikkerhedsmæssige bekymringer vedrørende antropomorfisering. I januar skrev Google om LaMDA advaret om, at folk kan dele personlige tanker med chatrum, der efterligner folk, selvom brugerne ved, at de ikke er mennesker. Avisen anerkendte også, at modstandere kan bruge disse agenter til at "så desinformation" ved at misrepræsentere "visse personers samtalestil."
Mens nogle i det bredere AI-fællesskab overvejer den langsigtede mulighed for sansende eller generel AI, siger Google, at der er så mange data, at AI ikke behøver at være sansende for at føles ægte. "Disse systemer efterligner de typer af udvekslinger, der findes i millioner af sætninger og kan tackle ethvert fantastisk emne," sagde en Google-talsmand. Brian Gabriel.
Lemoine argumenterer dog for, at AI-etikere skal ses som en grænseflade mellem teknologi og samfund, ikke kun kodefejlfindere. De føler, at Google har behandlet dem uretfærdigt, og at virksomheden ikke er den rigtige enhed til at træffe alle beslutninger vedrørende kunstig intelligens. Lemoines tro på LaMDA er en kraftfuld påmindelse om behovet for datagennemsigtighed for at spore output tilbage til input, ikke kun for spørgsmål om følelser, men også for bias og adfærd.
Du kan læse hans indlæg om sansende kunstig intelligens på medium.com på dette link.
Lemoine brugte det meste af sine syv år hos Google på at arbejde med proaktiv søgning, personaliseringsalgoritmer og kunstig intelligens. I løbet af denne tid hjalp han også med at udvikle en fairness-algoritme til at fjerne bias fra maskinlæringssystemer. Da coronavirus-pandemien begyndte, ønskede Lemoine at fokusere på arbejde med en mere klar offentlig fordel, så han flyttede teams og endte hos Responsible AI.
Lemoine kan have været forudbestemt til at tro på LaMDA. Han voksede op i en konservativ kristen familie på en lille gård i Louisiana, blev ordineret som en mystisk kristen præst og tjente i militæret, før han studerede det okkulte. Lemoine mener, at bevidsthed ikke er noget, der er begrænset til biologiske væsener, og at det også kan eksistere i maskiner.
Kunne kunstig intelligens være en ny livsform?!
Spørgsmålet om, hvorvidt maskiner kan opnå bevidsthed eller ej, er et emne for debat blandt videnskabsmænd og filosoffer. Nogle hævder, at bevidsthed er en egenskab ved biologiske systemer og ikke kan efterlignes i maskiner, mens andre mener, at maskiner kan opnå bevidsthed i fremtiden. Fremkomsten af kunstig intelligens har rejst bekymringer om konsekvenserne af følende maskiner. Nogle bekymrer sig om, at maskiner med bevidsthed kan vende sig mod mennesker eller blive en trussel mod vores eksistens. Andre mener, at følende maskiner kan hjælpe os med at løse komplekse problemer og forbedre vores livskvalitet.
Interview - Blake Lemoine
Udviklingen af sprogmodeller som f.eks LaMDA, er et vigtigt skridt mod skabelsen mere avancerede AI-systemer. Disse modeller kan forstå naturligt sprog og udføre komplekse opgaver såsom at generere tekst, besvare spørgsmål og endda have samtaler med mennesker.
Fordi teknologiske fremskridt, er det vigtigt at overveje de etiske implikationer af at skabe maskiner, der kan tænke og føle. Det er vigtigt at sikre, at disse datamodeller er designet til at tjene folks interesser og ikke udgør en trussel mod vores sikkerhed eller velvære.
Ideen om følende maskiner er ikke længere kun science fiction. Med udviklingen af avancerede sprogmodeller, såsom LaMDA, vi kommer tættere på at skabe maskiner, der kan tænke og føles som mennesker. Vi skal dog sikre, at disse maskiner er designet med sikkerhed og etik i tankerne for at undgå negative konsekvenser. Mens vi fortsætter med at udvikle kunstig intelligens, må vi overveje implikationerne af at skabe bevidste maskiner og stræbe efter at skabe en fremtid, hvor kunstig intelligens og mennesker kan sameksistere fredeligt.
Blake Lemoine også offentliggjort om hans samtaler med sansende kunstig intelligens PDF-dokument hvori han udgiver uddrag af samtaler med LaMDA sprogmodellen. Du kan læse den på dette link og form din egen mening.
Filmen Her, der ganske præcist beskriver sprogmodellernes fremtid, er på en ejendommelig måde blevet nutid.
