De hacker ontdekte een lijst met meer dan 80 extra plug-ins die via zijn API met ChatGPT waren verbonden, waardoor de kennis van de AI drastisch werd uitgebreid, wat duidt op zijn potentiële toekomstige rol als zoekconcurrent van Google.
Een recente inbreuk op de beveiliging ChatGPT heeft meer dan 80 plug-ins onthuld die verband houden met ChatGPT, een geavanceerd taalmodel voor kunstmatige intelligentie AI openen. Een hacker die bekend staat als rez0 kreeg toegang tot de API en ontdekte een lijst met aanbieders van zogenaamde add-ons, waaruit bleek dat de kennis van ChatGPT enorm kon worden uitgebreid met de enorme databases van deze bedrijven.
Bedrijven die op de lijst staan, zijn bekende namen zoals de betalingsverwerker Klarna, een reisorganisatie Expedia.nl, een berichten-app slap, de Vogue-publicatie, de restaurantreserverings-app OpenTable, de Amerikaanse maaltijdbezorgservice Instacart en de DAN-plug-in, die de mogelijkheid toont om de persoonlijkheid van ChatGPT te veranderen.
Vanmorgen was ik de nieuwe ChatGPT API aan het hacken en vond iets super interessants: er zijn meer dan 80 geheime plug-ins die kunnen worden onthuld door een specifieke parameter uit een API-aanroep te verwijderen.
De geheime plug-ins omvatten een "DAN-plug-in", "Crypto Prices Plug-in" en nog veel meer. pic.twitter.com/Q6JO1VLz5x
— 𝟶𝟶 (@rez0__) 24 maart 2023
De toevoeging van deze diensten, en naar verwachting zullen er nog meer volgen, kan het landschap aanzienlijk veranderen ChatGPT. De integratie van deze plug-ins breidt de kennisbasis aanzienlijk uit. Kunstmatige intelligentie profiteert van de informatiestroom van verbonden diensten en de mogelijkheid van bredere internettoegang tot actuele gegevens. In het grote geheel zou ChatGPT kunnen evolueren naar een nieuw soort zoekmachine om te concurreren met industriereuzen zoals Google. Tegelijkertijd zouden speciale gepersonaliseerde diensten kunnen worden ontwikkeld die in de eerste plaats rekening houden met de belangen en behoeften van de gebruiker van kunstmatige intelligentie. Dit zou een ware revolutie teweegbrengen, gepersonaliseerde en op maat gemaakte informatie.
Terwijl Google vertrouwt op webscraping en indexering om gebruikers links en previews te bieden in reactie op vragen, ChatGPT kan rechtstreeks toegang krijgen tot de inhoud van website- en service-operators en reacties in natuurlijke taal genereren in plaats van op links gebaseerde reacties. Deze inhoud kan ook authentieker zijn - en tegelijkertijd samengesteld door de redactie. Deze ontwikkeling zou een sterke stimulans kunnen zijn voor bedrijven om verbinding te maken met kunstmatige intelligentie en relevante gegevens en kennis te verstrekken die door personeelszaken zijn geverifieerd. Bijvoorbeeld als de gebruiker erom vroeg ChatGPT over trendy kleding zou het antwoord gebaseerd kunnen zijn op de aanbevelingen van Vogue, of op de verzameling en set informatie van dit medium. Niet alleen het hele internet. Met deze strategie willen ChatGPT-ontwikkelaars de stortvloed aan niet-geverifieerde informatie vermijden. En de strategie lijkt te zijn om verbinding te maken met enkele relevante bronnen om bepaalde sleutelgebieden te bestrijken.
De opname van Slack in de lijst met plug-ins is vooral interessant gezien de voortdurende concurrentie met Microsoft. Het bedrijf beschuldigt Microsoft ervan de concurrentie te schaden, wat momenteel wordt onderzocht door het Duitse Federale Kartelbureau. OpenAI en ChatGPT zijn nauw verbonden met Microsoft, niet alleen door financiële ondersteuning maar ook door nauwe samenwerking.
Een hacker knippen0 onthulde ook beschrijvingen van hoe het taalmodel bepaalde plug-ins zou moeten gebruiken. Een voorbeeld laat zien hoe het moet ChatGPT communiceren met gebruikers van Speak, een op kunstmatige intelligentie gebaseerde taalleraar. De AI krijgt de opdracht om natuurlijke taalantwoorden te geven en de “explainTask” API te gebruiken wanneer vragen anders geïnterpreteerd kunnen worden.
we hadden een aanzienlijk probleem in ChatGPT vanwege een bug in een open source-bibliotheek, waarvoor nu een oplossing is uitgebracht en we zijn net klaar met valideren.
een klein percentage van de gebruikers kon de titels van de gespreksgeschiedenis van andere gebruikers zien.
wij voelen ons hier rot over.
— Sam Altman (@sama) 22 maart 2023
OpenAI heeft sindsdien het door de hacker uitgebuite beveiligingslek gepatcht. Het bedrijf kreeg onlangs te maken met een ander probleem toen ze gebruikers de chatgeschiedenis van andere mensen lieten zien. Sam Altman, CEO van OpenAI, schreef het probleem toe aan een bug in de open source-bibliotheek, maar gaf geen verdere details. OpenAI heeft sindsdien een bug bounty-programma gelanceerd om het publiek aan te moedigen beveiligingsproblemen te melden.
