Hacker objevil seznam více než 80 dalších pluginů připojených k ChatGPT prostřednictvím jeho API, což drasticky rozšířilo znalosti AI a naznačilo její potenciální budoucí roli jako konkurenta ve vyhledávání pro Google.
Nedávné narušení bezpečnosti ChatGPT odhalila více než 80 pluginů souvisejících s ChatGPT, pokročilým jazykovým modelem pro umělou inteligenci OpenAI. Hacker známý jako rez0 získal přístup k API a objevil seznam poskytovatelů takzvaných doplňků, což ukazuje potenciál výrazně rozšířit znalosti ChatGPT s obrovskými databázemi, které tyto společnosti drží.
Společnosti uvedené na seznamu zahrnují domácí jména, jako je zpracovatel plateb Klarna, cestovní kancelář Expedia, aplikaci pro zasílání zpráv Slack, publikace Vogue, aplikace pro rezervaci restaurací OpenTable, americká služba pro rozvoz jídla Instacart a plugin DAN, který ukazuje schopnost změnit osobnost ChatGPT.
Dnes ráno jsem hackoval nové ChatGPT API a našel jsem něco super zajímavého: existuje více než 80 tajných pluginů, které lze odhalit odstraněním konkrétního parametru z volání API.
Mezi tajné pluginy patří „DAN plugin“, „Crypto Prices Plugin“ a mnoho dalších. pic.twitter.com/Q6JO1VLz5x
— 𝟶𝟶 (@rez0__) 24. března 2023
Přidání těchto služeb, přičemž se očekává, že budou následovat další, by mohlo výrazně změnit krajinu ChatGPT. Integrace těchto pluginů výrazně rozšiřuje jeho znalostní základnu. Umělá inteligence těží z toku informací z připojených služeb a možnosti širšího internetového přístupu k aktuálním datům. Ve velkém schématu věcí by se ChatGPT mohl vyvinout v nový druh vyhledávače, který by konkuroval průmyslovým gigantům, jako je Google. Zároveň by mohly být vyvinuty speciální personalizované služby, které by primárně zohledňovaly zájmy a potřeby uživatele umělé inteligence. To by vyvolalo skutečnou revoluci, personalizované a přizpůsobené informace.
Zatímco Google spoléhá na web scraping a indexování, které uživatelům poskytuje odkazy a náhledy v reakci na dotazy, ChatGPT může přímo přistupovat k obsahu webových stránek a provozovatelů služeb a generovat odpovědi v přirozeném jazyce namísto odpovědí založených na odkazech. Tyto obsahy mohou být také autentičtější – a zároveň kurátorované redakcí. Tento vývoj by mohl vytvořit silnou pobídku pro společnosti, aby se propojily s umělou inteligencí a poskytly relevantní data a znalosti ověřené lidskými zdroji. Například pokud se uživatel zeptal ChatGPT o trendy oblečení, odpověď by mohla vycházet z doporučení Vogue, nebo ze sbírky a souboru informací tohoto média. Nejen celý web. Díky této strategii se vývojáři ChatGPT chtějí vyhnout záplavě neověřených informací. Zdá se, že strategií je spojit se s některými relevantními zdroji, aby pokryly určité klíčové oblasti.
Zařazení Slacku do seznamu pluginů je zvláště zajímavé vzhledem k jeho pokračující konkurenci s Microsoftem. Společnost obvinila Microsoft z poškozování hospodářské soutěže, což v současnosti vyšetřuje německý Spolkový kartelový úřad. OpenAI a ChatGPT jsou úzce spojeny s Microsoftem, a to nejen díky finanční podpoře, ale také díky úzké spolupráci.
Hacker řez0 také odhalil popisy toho, jak by měl jazykový model používat určité pluginy. Jeden příklad ukazuje, jak by to mělo být ChatGPT komunikovat s uživateli Speak, učitele jazyků založeného na umělé inteligenci. AI je instruována, aby poskytovala odpovědi v přirozeném jazyce a používala rozhraní API „explainTask“, pokud lze otázky interpretovat odlišně.
měli jsme významný problém v ChatGPT kvůli chybě v knihovně s otevřeným zdrojovým kódem, pro kterou byla nyní vydána oprava a právě jsme dokončili ověřování.
malé procento uživatelů vidělo názvy historie konverzací jiných uživatelů.
cítíme se z toho hrozně.
— Sam Altman (@sama) 22. března 2023
OpenAI od té doby opravila bezpečnostní zranitelnost, kterou hacker zneužil. Společnost nedávno čelila dalšímu problému, když uživatelům ukázala historii chatu jiných lidí. Generální ředitel OpenAI Sam Altman připsal problém chybě v open source knihovně, ale neuvedl další podrobnosti. OpenAI od té doby spustila program bug bounty, aby povzbudila veřejnost, aby hlásila bezpečnostní zranitelnosti.
