L'hacker ha scoperto un elenco di oltre 80 plug-in aggiuntivi collegati a ChatGPT tramite la sua API, ampliando drasticamente la conoscenza dell'IA, suggerendo il suo potenziale ruolo futuro come concorrente di ricerca di Google.
Una recente violazione della sicurezza ChatGPT ha rivelato più di 80 plugin relativi a ChatGPT, un modello linguistico avanzato per l'intelligenza artificiale OpenAI. Un hacker noto come rez0 ha ottenuto l'accesso all'API e ha scoperto un elenco di fornitori dei cosiddetti componenti aggiuntivi, mostrando il potenziale per espandere notevolmente la conoscenza di ChatGPT con gli enormi database detenuti da queste società.
Le aziende presenti nell'elenco includono nomi familiari come il processore di pagamento Clarna, una compagnia di viaggi Expedia, un'app di messaggistica Allentato, la pubblicazione Vogue, l'app per la prenotazione di ristoranti OpenTable, il servizio di consegna di cibo statunitense Instacart e il plug-in DAN, che mostra la capacità di cambiare la personalità di ChatGPT.
Stamattina stavo hackerando la nuova API ChatGPT e ho trovato qualcosa di super interessante: ci sono oltre 80 plugin segreti che possono essere rivelati rimuovendo un parametro specifico da una chiamata API.
I plugin segreti includono un "plugin DAN", "Crypto Prices Plugin" e molti altri. pic.twitter.com/Q6JO1VLz5x
— 𝟶𝟶 (@rez0__) 24 marzo 2023
L'aggiunta di questi servizi, con altri previsti a seguire, potrebbe cambiare in modo significativo il panorama per ChatGPT. L'integrazione di questi plugin amplia notevolmente la sua base di conoscenze. L'intelligenza artificiale beneficia del flusso di informazioni dai servizi connessi e della possibilità di un accesso Internet più ampio ai dati attuali. Nel grande schema delle cose, ChatGPT potrebbe evolversi in una nuova generazione di motore di ricerca per competere con giganti del settore come Google. Allo stesso tempo, potrebbero essere sviluppati speciali servizi personalizzati che tengano conto principalmente degli interessi e delle esigenze dell'utente dell'intelligenza artificiale. Questo innescherebbe una vera e propria rivoluzione, un'informazione personalizzata e su misura.
Mentre Google si basa su web scraping e indicizzazione per fornire agli utenti collegamenti e anteprime in risposta alle query, ChatGPT può accedere direttamente al contenuto del sito Web e degli operatori di servizi e generare risposte in linguaggio naturale invece di risposte basate su collegamenti. Questi contenuti possono anche essere più autentici e allo stesso tempo curati dagli editori. Questo sviluppo potrebbe creare un forte incentivo per le aziende a connettersi con l'intelligenza artificiale e fornire dati e conoscenze pertinenti verificati dalle risorse umane. Ad esempio, se l'utente ha chiesto ChatGPT sui vestiti alla moda, la risposta potrebbe essere basata sui consigli di Vogue, o dalla raccolta e dall'insieme di informazioni di questo mezzo. Non solo l'intero web. Con questa strategia, gli sviluppatori di ChatGPT vogliono evitare il flusso di informazioni non verificate. E la strategia sembra essere quella di connettersi con alcune risorse rilevanti per coprire alcune aree chiave.
L'inclusione di Slack nell'elenco dei plugin è particolarmente interessante data la sua continua concorrenza con Microsoft. La società ha accusato Microsoft di danneggiare la concorrenza, che è attualmente oggetto di indagine da parte dell'Ufficio federale tedesco dei cartelli. OpenAI e ChatGPT sono strettamente associati a Microsoft, non solo attraverso il supporto finanziario ma anche attraverso una stretta collaborazione.
Un hacker tagliare0 ha anche rivelato descrizioni di come il modello linguistico dovrebbe utilizzare determinati plugin. Un esempio mostra come dovrebbe ChatGPT comunicare con gli utenti di Speak, un insegnante di lingue basato sull'intelligenza artificiale. L'intelligenza artificiale viene istruita a fornire risposte in linguaggio naturale e utilizzare l'API "explainTask" quando le domande possono essere interpretate in modo diverso.
abbiamo riscontrato un problema significativo in ChatGPT a causa di un bug in una libreria open source, per la quale è stata ora rilasciata una correzione e abbiamo appena terminato la convalida.
una piccola percentuale di utenti è stata in grado di vedere i titoli della cronologia delle conversazioni di altri utenti.
ci sentiamo malissimo per questo.
— Sam Altman (@sama) 22 marzo 2023
Da allora OpenAI ha corretto la vulnerabilità di sicurezza sfruttata dall'hacker. La società ha recentemente affrontato un altro problema quando ha mostrato agli utenti la cronologia delle chat di altre persone. Il CEO di OpenAI Sam Altman ha attribuito il problema a un bug nella libreria open source, ma non ha fornito ulteriori dettagli. Da allora OpenAI ha lanciato un programma di bug bounty per incoraggiare il pubblico a segnalare vulnerabilità di sicurezza.
