Hackaren upptäckte en lista med mer än 80 ytterligare plugins anslutna till ChatGPT genom dess API, vilket drastiskt utökade AI:s kunskap, vilket antydde dess potentiella framtida roll som sökkonkurrent till Google.
Ett säkerhetsintrång nyligen ChatGPT har avslöjat mer än 80 plugins relaterade till ChatGPT, en avancerad språkmodell för artificiell intelligens OpenAI. En hacker känd som rez0 fick tillgång till API:t och upptäckte en lista över leverantörer av så kallade tillägg, som visar potentialen att avsevärt utöka ChatGPTs kunskap med de enorma databaserna som dessa företag innehar.
Företag med på listan inkluderar hushållsnamn som betalningsprocessorn Klarna, ett reseföretag Expedia, en meddelandeapp Slak, Vogue-publikationen, restaurangreservationsappen OpenTable, den amerikanska matleveranstjänsten Instacart och DAN-plugin, som visar möjligheten att ändra ChatGPT:s personlighet.
I morse hackade jag det nya ChatGPT API och hittade något superintressant: det finns över 80 hemliga plugins som kan avslöjas genom att ta bort en specifik parameter från ett API-anrop.
De hemliga insticksprogrammen inkluderar en "DAN-plugin", "Crypto Prices Plugin" och många fler. pic.twitter.com/Q6JO1VLz5x
— 𝟶𝟶 (@rez0__) 24 mars 2023
Tillägget av dessa tjänster, med fler som förväntas följa, kan avsevärt förändra landskapet för ChatGPT. Integrationen av dessa plugins utökar dess kunskapsbas avsevärt. Artificiell intelligens drar nytta av informationsflödet från uppkopplade tjänster och möjligheten till bredare internetåtkomst till aktuell data. I det stora hela skulle ChatGPT kunna utvecklas till en ny typ av sökmotorer för att konkurrera med industrijättar som Google. Samtidigt skulle särskilda personanpassade tjänster kunna utvecklas som i första hand skulle ta hänsyn till den artificiella intelligensanvändarens intressen och behov. Detta skulle utlösa en verklig revolution, personlig och skräddarsydd information.
Medan Google förlitar sig på webbskrapning och indexering för att förse användare med länkar och förhandsvisningar som svar på frågor, ChatGPT kan direkt komma åt innehållet hos webbplats- och tjänstoperatörer och generera naturliga språksvar istället för länkbaserade svar. Detta innehåll kan också vara mer autentiskt – och samtidigt kurerat av redaktionen. Denna utveckling skulle kunna skapa ett starkt incitament för företag att ansluta till artificiell intelligens och tillhandahålla relevant data och kunskap verifierad av mänskliga resurser. Till exempel om användaren frågade ChatGPT om trendiga kläder, kan svaret baseras på rekommendationerna från Vogue, eller från samlingen och uppsättningen av information från detta medium. Inte bara hela webben. Med denna strategi vill ChatGPT-utvecklare undvika floden av overifierad information. Och strategin verkar vara att ansluta till några relevanta resurser för att täcka vissa nyckelområden.
Införandet av Slack i listan över plugins är särskilt intressant med tanke på dess pågående konkurrens med Microsoft. Företaget har anklagat Microsoft för att skada konkurrensen, vilket för närvarande utreds av det tyska förbundskartellkontoret. OpenAI och ChatGPT är nära förknippade med Microsoft, inte bara genom ekonomiskt stöd utan också genom nära samarbete.
En hackare skär0 avslöjade också beskrivningar av hur språkmodellen ska använda vissa plugins. Ett exempel visar hur det ska ChatGPT kommunicera med användare av Speak, en språklärare baserad på artificiell intelligens. AI:n är instruerad att ge svar på naturliga språk och använda API:et "explainTask" när frågor kan tolkas olika.
vi hade ett betydande problem i ChatGPT på grund av en bugg i ett bibliotek med öppen källkod, för vilket en fix nu har släppts och vi har precis avslutat valideringen.
en liten andel av användarna kunde se titlarna på andra användares konversationshistorik.
vi mår hemskt över detta.
— Sam Altman (@sama) 22 mars 2023
OpenAI har sedan dess korrigerat säkerhetssårbarheten som utnyttjas av hackaren. Företaget stod nyligen inför ett annat problem när de visade användarnas chatthistorik för andra människor. OpenAI VD Sam Altman tillskrev problemet till en bugg i biblioteket med öppen källkod, men lämnade inte ytterligare detaljer. OpenAI har sedan dess lanserat ett bug-bounty-program för att uppmuntra allmänheten att rapportera säkerhetssårbarheter.
