Heker je odkril seznam več kot 80 dodatnih vtičnikov, povezanih s ChatGPT prek njegovega API-ja, s čimer je drastično razširil znanje umetne inteligence, ki namiguje na njegovo potencialno prihodnjo vlogo iskalnega konkurenta Googlu.
Nedavna kršitev varnosti ChatGPT je razkrila več kot 80 vtičnikov, povezanih s ChatGPT, naprednim jezikovnim modelom umetne inteligence OpenAI. Heker, znan kot rez0, je pridobil dostop do API-ja in odkril seznam ponudnikov tako imenovanih dodatkov, kar je pokazalo potencial za obsežno širitev znanja ChatGPT z ogromnimi podatkovnmimi bazami, ki jih premorejo ta podjetja.
Podjetja, predstavljena na seznamu, vključujejo znana imena, kot so plačilni procesar Klarna, potovalno podjetje Expedia, aplikacija za sporočanje Slack, publikacija Vogue, aplikacija za rezervacije restavracij OpenTable, ameriška storitev za dostavo hrane Instacart in vtičnik DAN, ki kaže na zmožnost, da spreminja osebnost ChatGPT.
This morning I was hacking the new ChatGPT API and found something super interesting: there are over 80 secret plugins that can be revealed by removing a specific parameter from an API call.
The secret plugins include a "DAN plugin", "Crypto Prices Plugin", and many more. pic.twitter.com/Q6JO1VLz5x
— 𝚛𝚎𝚣𝟶 (@rez0__) March 24, 2023
Dodatek teh storitev, ki naj bi jih sledilo še več, bi lahko bistveno spremenil krajino za ChatGPT. Integracija teh vtičnikov znatno razširi njegovo bazo znanja. Umetna inteligenca ima koristi od pretoka informacij iz povezanih storitev in možnosti za širši internetni dostop do trenutnih podatkov. V veliki shemi stvari bi se ChatGPT lahko razvil v novo vrsto iskalnika, ki bi predstavljal konkurenco industrijskim velikanom, kot je Google. Hkrati pa bi se lahko razvili posebni prsonalizirani servisi, ki bi upoštevali predvsem zanimanja in potrebe uporabnika umetne inteligence. To pa bi sprožilo pravo revolucijo, prsonalizirane in krojene informacije.
Medtem ko se Google zanaša na spletno strganje informacij interneta in indeksiranje, da bi uporabnikom zagotovil povezave in predoglede kot odgovor na poizvedbe, lahko ChatGPT neposredno dostopa do vsebine operaterjev spletnih mest in storitev ter generira odgovore v naravnem jeziku namesto odgovorov na podlagi povezav. Te vsebine pa so lahko tudi bolj verodostojne – ter hkrati kurirane s strani urednikov. Ta razvoj bi lahko ustvaril močno spodbudo za podjetja, da se povežejo z umetno inteligenco ter posredujejo relevantne podatke in znanje preverjeno s človeškimi viri. Če je uporabnik na primer vprašal ChatGPT o trendovskih oblačilih, bi lahko odgovor temeljil na priporočilih Voguea, oziorma iz skupka in nabora informacij tega medija. Ne le celotnega spleta. S to strategijo se razvojniki ChatGPT želijo izogniti poplavi nepreverjenih informacij. In zdi se, da je strategija, da se povežejo z nekaterimi relevantnimi viri s katerimi bi pokrivali določena ključna področja.
Vključitev Slacka na seznam vtičnikov je še posebej zanimiva glede na njegovo stalno konkurenco z Microsoftom. Podjetje je Microsoft obtožilo škodovanja konkurenci, kar trenutno preiskuje nemški zvezni urad za kartele. OpenAI in ChatGPT sta tesno povezana z Microsoftom, ne samo s finančno podporo, temveč tudi zaradi tesnega sodelovanja.
Heker rez0 je razkril tudi opise, kako naj jezikovni model uporablja določene vtičnike. En primer prikazuje, kako bi moral ChatGPT komunicirati z uporabniki Speak, jezikovnega učitelja, ki temelji na umetni inteligenci. Umetni inteligenci je naročeno, da zagotovi odgovore v naravnem jeziku in uporabi API “explainTask”, kadar je mogoče vprašanja razlagati drugače.
we had a significant issue in ChatGPT due to a bug in an open source library, for which a fix has now been released and we have just finished validating.
a small percentage of users were able to see the titles of other users’ conversation history.
we feel awful about this.
— Sam Altman (@sama) March 22, 2023
OpenAI je od takrat popravil varnostno ranljivost, ki jo je izkoristil heker. Podjetje se je nedavno soočilo z drugo težavo, ko so uporabnikom prikazali zgodovino klepetov drugih ljudi. Izvršni direktor OpenAI-ja, Sam Altman, je težavo pripisal napaki v odprtokodni knjižnici, vendar ni navedel dodatnih podrobnosti. OpenAI je od takrat uvedel program nagrajevanja hroščev, da bi javnost spodbudil k poročanju o varnostnih ranljivostih.
