Haker je otkrio popis s više od 80 dodatnih dodataka povezanih s ChatGPT-om putem njegovog API-ja, drastično proširujući znanje umjetne inteligencije, nagovještavajući njegovu potencijalnu buduću ulogu kao konkurenta Googleu u pretraživanju.
Nedavno kršenje sigurnosti ChatGPT je otkrio više od 80 dodataka povezanih s ChatGPT-om, naprednim jezičnim modelom za umjetnu inteligenciju OpenAI. Haker poznat kao rez0 dobio je pristup API-ju i otkrio popis pružatelja takozvanih dodataka, pokazujući potencijal za znatno proširenje znanja ChatGPT-a s ogromnim bazama podataka koje drže te tvrtke.
Tvrtke koje se nalaze na popisu uključuju nazive kućanstava kao što je procesor plaćanja Klarna, turistička tvrtka Expedia, aplikacija za razmjenu poruka Zatišje, publikacija Vogue, aplikacija za rezervaciju restorana OpenTable, američki servis za dostavu hrane Instacart i dodatak DAN koji pokazuje mogućnost promjene osobnosti ChatGPT-a.
Jutros sam hakirao novi ChatGPT API i pronašao nešto super zanimljivo: postoji preko 80 tajnih dodataka koji se mogu otkriti uklanjanjem određenog parametra iz API poziva.
Tajni dodaci uključuju "DAN dodatak", "Crypto Prices Plugin" i mnoge druge. pic.twitter.com/Q6JO1VLz5x
— 𝟶𝟶 (@rez0__) 24. ožujka 2023
Dodavanje ovih usluga, uz očekivanje da će uslijediti još, moglo bi značajno promijeniti krajolik za ChatGPT. Integracija ovih dodataka značajno proširuje njegovu bazu znanja. Umjetna inteligencija ima koristi od protoka informacija iz povezanih servisa i mogućnosti šireg internetskog pristupa aktualnim podacima. U velikoj shemi stvari, ChatGPT bi se mogao razviti u novu vrstu tražilice koja bi se natjecala s industrijskim divovima poput Googlea. Istodobno bi se mogle razvijati posebne personalizirane usluge koje bi prvenstveno vodile računa o interesima i potrebama korisnika umjetne inteligencije. To bi pokrenulo pravu revoluciju, personaliziranih i prilagođenih informacija.
Dok Google oslanja se na web scraping i indeksiranje kako bi korisnicima pružio poveznice i preglede kao odgovor na upite, ChatGPT može izravno pristupiti sadržaju web stranica i operatera usluga te generirati odgovore na prirodnom jeziku umjesto odgovora temeljenih na vezama. Ti sadržaji također mogu biti autentičniji - a istovremeno ih uređuju urednici. Ovakav razvoj mogao bi stvoriti snažan poticaj tvrtkama da se povežu s umjetnom inteligencijom i pruže relevantne podatke i znanje provjereno od strane ljudskih resursa. Na primjer, ako je korisnik pitao ChatGPT o trendi odjeći odgovor bi se mogao temeljiti na preporukama Voguea, odnosno iz zbirke i skupa informacija ovog medija. Ne samo cijeli web. Ovom strategijom ChatGPT programeri žele izbjeći poplavu neprovjerenih informacija. Čini se da je strategija povezivanje s nekim relevantnim resursima kako bi se pokrila određena ključna područja.
Uključivanje Slacka u popis dodataka posebno je zanimljivo s obzirom na njegovu stalnu konkurenciju s Microsoftom. Tvrtka je optužila Microsoft za narušavanje konkurencije, što trenutno istražuje njemački Savezni ured za kartele. OpenAI i ChatGPT blisko su povezani s Microsoftom, ne samo kroz financijsku podršku već i kroz blisku suradnju.
Haker cut0 također je otkrio opise kako bi jezični model trebao koristiti određene dodatke. Jedan primjer pokazuje kako bi trebalo ChatGPT komunicirati s korisnicima Speak-a, učitelja jezika koji se temelji na umjetnoj inteligenciji. AI je upućen da pruži odgovore na prirodnom jeziku i koristi API "explainTask" kada se pitanja mogu drugačije protumačiti.
imali smo značajan problem u ChatGPT-u zbog greške u biblioteci otvorenog koda, za koju je sada objavljen popravak i upravo smo završili provjeru valjanosti.
mali postotak korisnika mogao je vidjeti naslove povijesti razgovora drugih korisnika.
osjećamo se užasno zbog ovoga.
— Sam Altman (@sama) 22. ožujka 2023
OpenAI je od tada zakrpao sigurnosnu ranjivost koju je iskoristio haker. Tvrtka se nedavno suočila s još jednim problemom kada je korisnicima pokazala povijest razgovora drugih ljudi. Izvršni direktor OpenAI-ja Sam Altman pripisao je problem grešci u biblioteci otvorenog koda, ali nije dao dodatne pojedinosti. OpenAI je od tada pokrenuo program nagrada za bugove kako bi potaknuo javnost da prijavi sigurnosne propuste.
