Le pirate a découvert une liste de plus de 80 plugins supplémentaires connectés à ChatGPT via son API, élargissant considérablement les connaissances de l'IA, faisant allusion à son futur rôle potentiel en tant que concurrent de recherche de Google.
Une faille de sécurité récente ChatGPT a révélé plus de 80 plugins liés à ChatGPT, un modèle de langage avancé pour l'intelligence artificielle OpenAI. Un pirate connu sous le nom de rez0 a eu accès à l'API et a découvert une liste de fournisseurs de soi-disant add-ons, montrant le potentiel d'élargir considérablement les connaissances de ChatGPT avec les énormes bases de données détenues par ces sociétés.
Les entreprises figurant sur la liste incluent des noms familiers tels que le processeur de paiement Klarna, une agence de voyages Expedia, une application de messagerie Mou, la publication Vogue, l'application de réservation de restaurants OpenTable, le service de livraison de nourriture américain Instacart et le plugin DAN, qui montre la capacité de changer la personnalité de ChatGPT.
Ce matin, je piratais la nouvelle API ChatGPT et j'ai trouvé quelque chose de super intéressant : il existe plus de 80 plugins secrets qui peuvent être révélés en supprimant un paramètre spécifique d'un appel API.
Les plugins secrets incluent un "plugin DAN", un "plugin de prix crypto", et bien d'autres. pic.twitter.com/Q6JO1VLz5x
— 𝟶𝟶 (@rez0__) 24 mars 2023
L'ajout de ces services, et d'autres devraient suivre, pourrait changer considérablement le paysage pour ChatGPT. L'intégration de ces plugins élargit considérablement sa base de connaissances. L'intelligence artificielle bénéficie du flux d'informations des services connectés et de la possibilité d'un accès Internet plus large aux données actuelles. Dans le grand schéma des choses, ChatGPT pourrait évoluer vers une nouvelle race de moteur de recherche pour concurrencer les géants de l'industrie comme Google. Dans le même temps, des services personnalisés spéciaux pourraient être développés qui prendraient principalement en compte les intérêts et les besoins de l'utilisateur de l'intelligence artificielle. Cela déclencherait une véritable révolution, une information personnalisée et adaptée.
Alors que Google s'appuie sur le grattage et l'indexation Web pour fournir aux utilisateurs des liens et des aperçus en réponse aux requêtes, ChatGPT peut accéder directement au contenu des sites Web et des opérateurs de services et générer des réponses en langage naturel au lieu de réponses basées sur des liens. Ces contenus peuvent également être plus authentiques - et en même temps organisés par les éditeurs. Cette évolution pourrait créer une forte incitation pour les entreprises à se connecter à l'intelligence artificielle et à fournir des données et des connaissances pertinentes vérifiées par les ressources humaines. Par exemple, si l'utilisateur a demandé ChatGPT à propos des vêtements à la mode, la réponse pourrait être basée sur les recommandations de Vogue, ou sur la collection et l'ensemble des informations de ce média. Pas seulement l'ensemble du Web. Avec cette stratégie, les développeurs de ChatGPT veulent éviter le flot d'informations non vérifiées. Et la stratégie semble être de se connecter avec des ressources pertinentes pour couvrir certains domaines clés.
L'inclusion de Slack dans la liste des plugins est particulièrement intéressante compte tenu de sa concurrence permanente avec Microsoft. La société a accusé Microsoft de nuire à la concurrence, ce qui fait actuellement l'objet d'une enquête de l'Office fédéral allemand des cartels. OpenAI et ChatGPT sont étroitement associés à Microsoft, non seulement par un soutien financier mais aussi par une étroite collaboration.
Un pirate informatique couper0 a également révélé des descriptions de la façon dont le modèle de langage devrait utiliser certains plugins. Un exemple montre comment il faut ChatGPT communiquer avec les utilisateurs de Speak, un professeur de langue basé sur l'intelligence artificielle. L'IA est chargée de fournir des réponses en langage naturel et d'utiliser l'API "explainTask" lorsque les questions peuvent être interprétées différemment.
nous avons eu un problème important dans ChatGPT en raison d'un bogue dans une bibliothèque open source, pour lequel un correctif a maintenant été publié et nous venons de terminer la validation.
un petit pourcentage d'utilisateurs ont pu voir les titres de l'historique des conversations des autres utilisateurs.
nous nous sentons mal à ce sujet.
—Sam Altman (@sama) 22 mars 2023
OpenAI a depuis corrigé la faille de sécurité exploitée par le pirate. La société a récemment été confrontée à un autre problème lorsqu'elle a montré aux utilisateurs l'historique de discussion d'autres personnes. Le PDG d'OpenAI, Sam Altman, a attribué le problème à un bogue dans la bibliothèque open source, mais n'a pas fourni plus de détails. OpenAI a depuis lancé un programme de primes de bogues pour encourager le public à signaler les failles de sécurité.
