Hackeren oppdaget en liste over mer enn 80 ekstra plugins koblet til ChatGPT gjennom API-en, og utvidet AIs kunnskap drastisk, og antydet dens potensielle fremtidige rolle som søkekonkurrent til Google.
Et nylig sikkerhetsbrudd ChatGPT har avslørt mer enn 80 plugins relatert til ChatGPT, en avansert språkmodell for kunstig intelligens OpenAI. En hacker kjent som rez0 fikk tilgang til API og oppdaget en liste over leverandører av såkalte tilleggsprogrammer, som viser potensialet til å utvide ChatGPTs kunnskap enormt med de enorme databasene som disse selskapene har.
Selskaper på listen inkluderer husholdningsnavn som betalingsbehandleren Klarna, et reiseselskap Expedia, en meldingsapp Slakk, Vogue-publikasjonen, restaurantreservasjonsappen OpenTable, den amerikanske matleveringstjenesten Instacart og DAN-plugin, som viser muligheten til å endre ChatGPTs personlighet.
I morges hacket jeg det nye ChatGPT API og fant noe superinteressant: det er over 80 hemmelige plugins som kan avsløres ved å fjerne en bestemt parameter fra et API-kall.
De hemmelige pluginene inkluderer en "DAN-plugin", "Crypto Prices Plugin" og mange flere. pic.twitter.com/Q6JO1VLz5x
— 𝟶𝟶 (@rez0__) 24. mars 2023
Tillegget av disse tjenestene, med flere som forventes å følge, kan endre landskapet betydelig ChatGPT. Integreringen av disse pluginene utvider kunnskapsbasen betydelig. Kunstig intelligens drar nytte av informasjonsflyten fra tilkoblede tjenester og muligheten for bredere internettilgang til aktuelle data. I det store og hele kan ChatGPT utvikle seg til en ny type søkemotor for å konkurrere med industrigiganter som Google. Samtidig kunne det utvikles spesialtilpassede tjenester som primært skulle ta hensyn til interessene og behovene til brukeren av kunstig intelligens. Dette ville utløst en reell revolusjon, personlig og skreddersydd informasjon.
Samtidig som Google er avhengig av nettskraping og indeksering for å gi brukere lenker og forhåndsvisninger som svar på forespørsler, kan ChatGPT direkte få tilgang til innholdet til nettside- og tjenesteoperatører og generere naturlig språksvar i stedet for lenkebaserte svar. Dette innholdet kan også være mer autentisk – og samtidig kuratert av redaksjonen. Denne utviklingen kan skape et sterkt insentiv for bedrifter til å koble seg til kunstig intelligens og gi relevant data og kunnskap verifisert av menneskelige ressurser. For eksempel hvis brukeren spurte ChatGPT om trendy klær, kan svaret være basert på anbefalingene fra Vogue, eller fra samlingen og informasjonssettet til dette mediet. Ikke bare hele nettet. Med denne strategien ønsker ChatGPT-utviklere å unngå flommen av ubekreftet informasjon. Og strategien ser ut til å være å koble til noen relevante ressurser for å dekke visse nøkkelområder.
Inkluderingen av Slack i listen over plugins er spesielt interessant gitt den pågående konkurransen med Microsoft. Selskapet har anklaget Microsoft for å skade konkurransen, som for tiden etterforskes av det tyske føderale kartellkontoret. OpenAI og ChatGPT er nært knyttet til Microsoft, ikke bare gjennom økonomisk støtte, men også gjennom tett samarbeid.
En hacker kutt0 avslørte også beskrivelser av hvordan språkmodellen skal bruke visse plugins. Ett eksempel viser hvordan det skal ChatGPT kommunisere med brukere av Speak, en kunstig intelligens-basert språklærer. AI er instruert om å gi naturlige språksvar og bruke "explainTask" API når spørsmål kan tolkes annerledes.
vi hadde et betydelig problem i ChatGPT på grunn av en feil i et bibliotek med åpen kildekode, som det nå er utgitt en reparasjon for og vi har nettopp fullført valideringen.
en liten prosentandel av brukerne var i stand til å se titlene på andre brukeres samtalehistorikk.
vi føler forferdelig med dette.
— Sam Altman (@sama) 22. mars 2023
OpenAI har siden lappet sikkerhetssårbarheten utnyttet av hackeren. Selskapet møtte nylig et annet problem da de viste brukere chat-historikken til andre mennesker. OpenAI-sjef Sam Altman tilskrev problemet til en feil i biblioteket med åpen kildekode, men ga ikke ytterligere detaljer. OpenAI har siden lansert et bug bounty-program for å oppmuntre publikum til å rapportere sikkerhetssårbarheter.
