Voittoa tavoittelemattoman Future of Life Instituten julkaisemassa avoimessa kirjeessä joukko tekoälyn tutkijoita, mukaan lukien Teslan toimitusjohtaja Elon Musk, vaatii keskeyttämään suurten tekoälyjärjestelmien kehittämisen. Heidän kirjeensä kuuluu: Pysäytä tekoälyn kehitys! Kirje ilmaisee huolensa mahdollisista riskeistä, joita nämä järjestelmät aiheuttavat yhteiskunnalle ja ihmiskunnalle, sekä niiden ymmärtämättömyydestä ja hallinnan puutteesta. Tutkijat kehottavat tekoälylaboratorioita lopettamaan GPT-4:ää vahvempien tekoälyjärjestelmien päivittämisen vähintään kuudeksi kuukaudeksi ja työskentelemään riippumattomien sääntelyviranomaisten kanssa turvaprotokollien kehittämiseksi.
Ryhmä korkean profiilin tekoälytutkijoita, mukaan lukien Teslan toimitusjohtaja Elon Musk ja kirjoittaja Yuval Noah Hararille, allekirjoitti avoimen kirjeen, jossa vaadittiin keskeyttämään suurten tekoälyjärjestelmien kehittäminen. Kirjeessä, jonka on julkaissut voittoa tavoittelematon Future of Life Institute, todetaan, että tekoälylaboratoriot ympäri maailmaa ovat "hallinnassa" kehittääkseen ja ottaakseen käyttöön koneoppimisjärjestelmiä, jotka ovat liian tehokkaita kenenkään, mukaan lukien niiden luojien, hallitsemaan. ymmärsi. Tai onnistui hallitsemaan luotettavasti.
Pysäytä tekoälyn kehitys
Kirjeessä kehotetaan erityisesti tekoälylaboratorioita, lopettaa tekoälyjärjestelmien koulutus vähintään kuudeksi kuukaudeksi, tehokkaampi kuin GPT-4, ja työskentele riippumattomien sääntelijöiden kanssa kehittääkseen suojausprotokollia edistyneeseen tekoälysuunnitteluun ja -kehitykseen. Allekirjoittajat väittävät, että tämä tauko on välttämätön tulevien tekoälyjärjestelmien turvallisuuden ja säätelyn varmistamiseksi, kun otetaan huomioon suuret riskit, joita he edustavat yhteiskunnalle ja ihmiskunnalle.
Moratorion vaatimuksella ei todennäköisesti ole välitöntä vaikutusta tekoälytutkimuksen nykyiseen ilmastoon, joka on nähnyt Googlen ja Microsoftin kaltaisten teknologiayritysten kiirehtivän tuomaan markkinoille uusia tuotteita ottamatta täysin huomioon turvallisuus- ja eettisiä vaikutuksia. Se on kuitenkin merkki kasvavasta vastustuksesta tätä "lähetä nyt ja korjaa myöhemmin" -lähestymistapaa kohtaan, mikä voi vaikuttaa tuleviin säädöksiin ja lainsäädäntöön.
Otsa OpenAI, jonka hän perusti Elon Musk, ilmaisi mahdollisen tarpeen tehdä "riippumaton arviointi" tulevista tekoälyjärjestelmistä tämän varmistamiseksi turvallisuusstandardien täyttämiseksi. Avoimen kirjeen allekirjoittajat väittävät, että tekoälylaboratorioiden ja riippumattomien asiantuntijoiden on nyt aika työskennellä yhdessä kehittääkseen ja ottaakseen käyttöön yhteisiä suojausprotokollia edistyksellistä suunnittelua ja kehitystä varten. AI, jotka ovat riippumattomien ulkopuolisten asiantuntijoiden tarkastamia ja valvomia.
Vaikka vaikutus on välitön avoimesta kirjeestä epävarma, korostaa jatkuvan vuoropuhelun ja yhteistyön tarvetta tekoälyn tutkijat, teknologiayrityksiä ja sääntelyviranomaisia varmistaakseen tekoälyjärjestelmien vastuullisen kehittämisen ja käyttöönoton tulevaisuudessa.
