Hacker objavil zoznam viac ako 80 ďalších doplnkov pripojených k ChatGPT cez jeho API, čím drasticky rozšíril znalosti AI, čo naznačuje jej potenciálnu budúcu úlohu ako konkurenta Google vo vyhľadávaní.
Nedávne narušenie bezpečnosti ChatGPT odhalila viac ako 80 doplnkov súvisiacich s ChatGPT, pokročilým jazykovým modelom pre umelú inteligenciu OpenAI. Hacker známy ako rez0 získal prístup k API a objavil zoznam poskytovateľov takzvaných doplnkov, čo ukazuje potenciál výrazne rozšíriť znalosti ChatGPT s obrovskými databázami, ktoré tieto spoločnosti vlastnia.
Spoločnosti uvedené na zozname zahŕňajú domáce mená, ako napríklad spracovateľ platieb Klarna, cestovná kancelária Expedia, aplikácia na odosielanie správ Slack, publikácia Vogue, aplikácia na rezerváciu reštaurácií OpenTable, americká služba na donášku jedla Instacart a doplnok DAN, ktorý ukazuje schopnosť zmeniť osobnosť ChatGPT.
Dnes ráno som hackoval nové API ChatGPT a našiel som niečo super zaujímavé: existuje viac ako 80 tajných doplnkov, ktoré možno odhaliť odstránením konkrétneho parametra z volania API.
Medzi tajné pluginy patrí „DAN plugin“, „Crypto Prices Plugin“ a mnoho ďalších. pic.twitter.com/Q6JO1VLz5x
— 𝟶𝟶 (@rez0__) 24. marca 2023
Pridanie týchto služieb, pričom sa očakáva, že budú nasledovať ďalšie, by mohlo výrazne zmeniť prostredie ChatGPT. Integrácia týchto pluginov výrazne rozširuje jeho vedomostnú základňu. Umelá inteligencia ťaží z toku informácií z pripojených služieb a možnosti širšieho internetového prístupu k aktuálnym dátam. Vo veľkej schéme vecí by sa ChatGPT mohol vyvinúť na nový druh vyhľadávacieho nástroja, ktorý by konkuroval priemyselným gigantom, ako je Google. Zároveň by sa mohli vyvinúť špeciálne personalizované služby, ktoré by primárne zohľadňovali záujmy a potreby používateľa umelej inteligencie. To by spustilo skutočnú revolúciu, personalizované a prispôsobené informácie.
Zatiaľ čo Google sa spolieha na webové zoškrabovanie a indexovanie, aby používateľom poskytovalo odkazy a náhľady v reakcii na otázky, ChatGPT môže priamo pristupovať k obsahu webových stránok a prevádzkovateľov služieb a namiesto odpovedí založených na odkazoch generovať odpovede v prirodzenom jazyku. Tento obsah môže byť tiež autentickejší – a zároveň kurátorsky upravený redakciou. Tento vývoj by mohol vytvoriť silný stimul pre spoločnosti, aby sa spojili s umelou inteligenciou a poskytli relevantné údaje a poznatky overené ľudskými zdrojmi. Napríklad, ak sa používateľ opýtal ChatGPT o trendovom oblečení, odpoveď by mohla vychádzať z odporúčaní Vogue, prípadne zo zbierky a súboru informácií tohto média. Nielen celý web. Touto stratégiou sa chcú vývojári ChatGPT vyhnúť záplave neoverených informácií. Stratégiou sa zdá byť spojenie s niektorými relevantnými zdrojmi na pokrytie určitých kľúčových oblastí.
Zaradenie Slacku do zoznamu doplnkov je obzvlášť zaujímavé vzhľadom na jeho prebiehajúcu konkurenciu so spoločnosťou Microsoft. Spoločnosť obvinila Microsoft z poškodzovania hospodárskej súťaže, čo v súčasnosti vyšetruje nemecký Spolkový kartelový úrad. OpenAI a ChatGPT sú úzko spojené so spoločnosťou Microsoft, a to nielen prostredníctvom finančnej podpory, ale aj úzkej spolupráce.
Hacker rez0 odhalil aj popisy toho, ako by mal jazykový model používať určité doplnky. Jeden príklad ukazuje, ako by to malo byť ChatGPT komunikovať s používateľmi Speak, učiteľa jazykov založeného na umelej inteligencii. AI je inštruovaná, aby poskytovala odpovede v prirodzenom jazyku a používala API „explainTask“, keď je možné otázky interpretovať odlišne.
mali sme významný problém v ChatGPT kvôli chybe v open source knižnici, pre ktorú bola teraz vydaná oprava a práve sme dokončili validáciu.
malé percento používateľov mohlo vidieť názvy histórie konverzácií iných používateľov.
cítime sa z toho hrozne.
— Sam Altman (@sama) 22. marca 2023
OpenAI odvtedy opravila bezpečnostnú chybu, ktorú hacker zneužil. Spoločnosť nedávno čelila ďalšiemu problému, keď používateľom ukázala históriu chatu iných ľudí. Generálny riaditeľ OpenAI Sam Altman pripísal problém chybe v open source knižnici, no neuviedol ďalšie podrobnosti. OpenAI odvtedy spustila program bug bounty, aby povzbudila verejnosť, aby hlásila bezpečnostné chyby.
