U lipnju 2022. Blake Lemoine, softverski inženjer u Googleu, objavio je rad u kojem tvrdi da je LaMDA, Googleov veliki jezični model za dijaloške aplikacije, postao osjećajan. Kao dio svog posla, bio je u interakciji s umjetnom inteligencijom kako bi testirao diskriminirajući govor ili govor mržnje kada je primijetio da chatbot govori o njegovim pravima i osobnosti. Lemoine i njegov kolega predstavili su Googleu dokaze da je LaMDA osjetljiva, no tvrtka je odbacila njihove tvrdnje. Nakon što je stavljen na plaćeni administrativni dopust, Lemoine je izašao u javnost sa svojim uvjerenjima.
Šest mjeseci prema Lemoineu, svijet se promijenio zahvaljujući umjetnoj inteligenciji. Osjećajni roboti već dugo predmet distopijske znanstvene fantastike, ali s razvojem jezičnih modela kao što su LaMDA, DALL-E 2 i GPT-3, ideja o svijesti u strojevima postaje vjerojatnija. Dok zbor tehnologa koji vjeruju da jesu modeli umjetne inteligencije možda blizu dosezanja svijesti, uspona, većina akademika i praktičara umjetna inteligencija on kaže da riječi i slike stvorene ovim modelima stvaraju odgovore temeljene na onome što su ljudi već objavili na Internetu, a ne na pravom razumijevanju značenja. Ah, ali ponekad se čini da je cijela stvar više od pukog statističkog modela. I zato se pojavljuje sve više dokaza. Također, u mjeri u kojoj analiziramo ljudsko razmišljanje, nalazimo da smo mi sami značajan "statistički" model.
LaMDA, skraćenica za Jezični model za aplikacije dijaloga, Googleov je sustav za izgradnju chatbota temeljen na njegovim najnaprednijim velikim jezičnim modelima. Ovi modeli oponašaju govor konzumirajući bilijune riječi s interneta. Tehnologija se već naširoko koristi, na primjer u Googleovim razgovornim upitima za pretraživanje ili samodovršenim e-porukama. CEO Googlea Sundar Pichai rekao je da ga tvrtka planira ugraditi u sve, od pretraživanja do Google pomoćnika.
Tehnologiju modela velikog jezika razvilo je i objavilo nekoliko organizacija. Meta, matična tvrtka Facebook, otvorio je svoj jezični model akademicima, civilnom društvu i vladinim organizacijama u svibnju. Joelle Pineau, izvršna direktorica tvrtke Meta AI, rekla je da je ključno da tehnološke tvrtke poboljšavaju transparentnost kako se tehnologija razvija.
Google je priznao zabrinutost za sigurnost u vezi s antropomorfizacijom. U siječnju je Google pisao o tome LaMDA upozorio je da ljudi mogu dijeliti osobne misli s chat sobama koje se lažno predstavljaju kao ljudi, čak i kada korisnici znaju da nisu ljudi. Novine su također priznale da protivnici mogu koristiti te agente za "sijanje dezinformacija" lažnim predstavljanjem "stila razgovora određenih pojedinaca".
Dok neki u široj zajednici umjetne inteligencije razmatraju dugoročnu mogućnost osjetljive ili opće AI, Google kaže da ima toliko podataka da umjetna inteligencija ne mora biti osjetljiva da bi se osjećala stvarnom. "Ovi sustavi oponašaju vrste razmjena koje se nalaze u milijunima fraza i mogu se pozabaviti bilo kojom fantastičnom temom", rekao je Googleov glasnogovornik. Brian Gabriel.
Međutim, Lemoine tvrdi da etičare umjetne inteligencije treba promatrati kao sučelje između tehnologije i društva, a ne samo kao programere za otklanjanje pogrešaka koda. Smatraju da je Google prema njima postupio nepravedno i da tvrtka nije pravi subjekt za donošenje svih odluka u vezi s umjetnom inteligencijom. Lemoineovo vjerovanje u LaMDA snažan je podsjetnik na potrebu za transparentnošću podataka kako bi se pratio izlaz do ulaza, ne samo za pitanja raspoloženja, već i za pristranost i ponašanje.
Možete pročitati njegov tekst o osjećajnoj umjetnoj inteligenciji na medium.com na ovoj poveznici.
Lemoine većinu svojih sedam godina u Googleu proveo je radeći na proaktivnom pretraživanju, algoritmima za personalizaciju i umjetnoj inteligenciji. Tijekom tog vremena također je pomogao razviti algoritam pravednosti za uklanjanje pristranosti iz sustava strojnog učenja. Kada je počela pandemija koronavirusa, Lemoine se želio usredotočiti na rad s jasnijom javnom dobrobiti, pa je premjestio timove i završio u Responsible AI.
Lemoine je možda bio predodređen da vjeruje u LaMDA. Odrastao je u konzervativnoj kršćanskoj obitelji na maloj farmi u Louisiani, bio je zaređen za mističnoga kršćanskog svećenika i služio je u vojsci prije nego što je počeo proučavati okultno. Lemoine smatra da svijest nije nešto što je ograničeno na biološka bića i da može postojati iu strojevima.
Može li umjetna inteligencija biti novi oblik života?!
Pitanje mogu li ili ne strojevi postići svijest tema je rasprava među znanstvenicima i filozofima. Neki tvrde da je svijest svojstvo bioloških sustava i da se ne može oponašati u strojevima, dok drugi vjeruju da strojevi mogu postići svijest u budućnosti. Uspon umjetne inteligencije izazvao je zabrinutost o implikacijama osjećajnih strojeva. Neki se brinu da bi se strojevi sa sviješću mogli okrenuti protiv ljudi ili postati prijetnja našem postojanju. Drugi vjeruju da bi nam osjećajni strojevi mogli pomoći u rješavanju složenih problema i poboljšati kvalitetu naših života.
Intervju - Blake Lemoine
Razvoj jezičnih modela kao što su LaMDA, važan je korak prema stvaranju naprednije AI sustave. Ovi modeli mogu razumjeti prirodni jezik i obavljati složene zadatke poput generiranja teksta, odgovaranja na pitanja, pa čak i razgovora s ljudima.
Jer tehnološki napredak, bitno je razmotriti etičke implikacije stvaranja strojeva koji mogu misliti i osjećati. Ključno je osigurati da su ti modeli podataka dizajnirani tako da služe interesima ljudi i da ne predstavljaju prijetnju našoj sigurnosti ili dobrobiti.
Ideja o osjećajnim strojevima više nije samo znanstvena fantastika. S razvojem naprednih jezičnih modela, kao što je LaMDA, sve smo bliže stvaranju strojeva koji mogu misliti i osjećati poput ljudi. Međutim, moramo osigurati da su ti strojevi dizajnirani imajući na umu sigurnost i etiku kako bismo izbjegli bilo kakve negativne posljedice. Dok nastavljamo razvijati umjetnu inteligenciju, moramo razmotriti implikacije stvaranja svjesnih strojeva i težiti stvaranju budućnosti u kojoj umjetna inteligencija i ljudi mogu mirno koegzistirati.
Blake Lemoine također objavio o svojim razgovorima s osjećajnom umjetnom inteligencijom PDF dokument u kojem objavljuje izvatke razgovora s LaMDA jezičnim modelom. Možete ga pročitati na ovaj link i formirajte svoje mišljenje.
Film Her, koji prilično precizno opisuje budućnost jezičnih modela, postao je na osebujan način sadašnjost.
