Hackeren opdagede en liste med mere end 80 ekstra plugins forbundet til ChatGPT gennem dets API, hvilket drastisk udvidede AI's viden og antydede dens potentielle fremtidige rolle som søgekonkurrent til Google.
Et nyligt sikkerhedsbrud ChatGPT har afsløret mere end 80 plugins relateret til ChatGPT, en avanceret sprogmodel for kunstig intelligens OpenAI. En hacker kendt som rez0 fik adgang til API'et og opdagede en liste over udbydere af såkaldte tilføjelser, der viser potentialet til at udvide ChatGPT's viden enormt med de enorme databaser, som disse virksomheder har.
Virksomheder på listen inkluderer husstandsnavne såsom betalingsbehandleren Klarna, et rejseselskab Expedia, en besked-app Slap, Vogue-publikationen, restaurantreservationsappen OpenTable, den amerikanske madleveringstjeneste Instacart og DAN-plugin'et, som viser muligheden for at ændre ChatGPTs personlighed.
I morges hackede jeg den nye ChatGPT API og fandt noget super interessant: Der er over 80 hemmelige plugins, der kan afsløres ved at fjerne en bestemt parameter fra et API-kald.
De hemmelige plugins inkluderer et "DAN plugin", "Crypto Prices Plugin" og mange flere. pic.twitter.com/Q6JO1VLz5x
— 𝟶𝟶 (@rez0__) 24. marts 2023
Tilføjelsen af disse tjenester, med flere, der forventes at følge, kan ændre landskabet væsentligt for ChatGPT. Integrationen af disse plugins udvider dens vidensbase betydeligt. Kunstig intelligens drager fordel af informationsstrømmen fra tilsluttede tjenester og muligheden for bredere internetadgang til aktuelle data. I den store sammenhæng kunne ChatGPT udvikle sig til en ny type søgemaskine, der kan konkurrere med industrigiganter som Google. Samtidig kunne der udvikles særlige personaliserede tjenester, der primært tager hensyn til den kunstige intelligens-brugers interesser og behov. Dette ville udløse en reel revolution, personlig og skræddersyet information.
Mens Google er afhængig af web-skrabning og indeksering for at give brugere links og forhåndsvisninger som svar på forespørgsler, kan ChatGPT direkte få adgang til indholdet af websteds- og tjenesteoperatører og generere naturlige sprogsvar i stedet for linkbaserede svar. Dette indhold kan også være mere autentisk - og samtidig kurateret af redaktionen. Denne udvikling kan skabe et stærkt incitament for virksomheder til at forbinde med kunstig intelligens og levere relevant data og viden verificeret af menneskelige ressourcer. For eksempel hvis brugeren spurgte ChatGPT om trendy tøj, kan svaret være baseret på anbefalingerne fra Vogue eller fra samlingen og informationssættet på dette medie. Ikke kun hele nettet. Med denne strategi ønsker ChatGPT-udviklere at undgå oversvømmelsen af ubekræftede oplysninger. Og strategien ser ud til at være at forbinde med nogle relevante ressourcer for at dække visse nøgleområder.
Inkluderingen af Slack på listen over plugins er særlig interessant i betragtning af dens igangværende konkurrence med Microsoft. Virksomheden har anklaget Microsoft for at skade konkurrencen, som i øjeblikket undersøges af det tyske forbundskartelkontor. OpenAI og ChatGPT er tæt forbundet med Microsoft, ikke kun gennem økonomisk støtte, men også gennem tæt samarbejde.
En hacker klippe0 afslørede også beskrivelser af, hvordan sprogmodellen skulle bruge visse plugins. Et eksempel viser, hvordan det skal ChatGPT kommunikere med brugere af Speak, en kunstig intelligens-baseret sproglærer. AI er instrueret i at give naturlige sprogsvar og bruge "explainTask" API'et, når spørgsmål kan fortolkes forskelligt.
vi havde et betydeligt problem i ChatGPT på grund af en fejl i et open source-bibliotek, som en rettelse nu er blevet frigivet til, og vi er netop færdige med at validere.
en lille procentdel af brugerne var i stand til at se titlerne på andre brugeres samtalehistorik.
vi har det forfærdeligt over dette.
— Sam Altman (@sama) 22. marts 2023
OpenAI har siden rettet den sikkerhedssårbarhed, som hackeren udnyttede. Virksomheden stod for nylig over for et andet problem, da de viste brugerne chathistorikken for andre mennesker. OpenAI CEO Sam Altman tilskrev problemet til en fejl i open source-biblioteket, men gav ikke yderligere detaljer. OpenAI har siden lanceret et bug bounty-program for at tilskynde offentligheden til at rapportere sikkerhedssårbarheder.
