O hacker descobriu uma lista de mais de 80 plug-ins adicionais conectados ao ChatGPT por meio de sua API, expandindo drasticamente o conhecimento da IA, sugerindo seu potencial papel futuro como concorrente de pesquisa do Google.
Uma falha de segurança recente ChatGPT revelou mais de 80 plugins relacionados ao ChatGPT, um modelo avançado de linguagem para inteligência artificial OpenAI. Um hacker conhecido como rez0 obteve acesso à API e descobriu uma lista de provedores dos chamados add-ons, mostrando o potencial de expandir enormemente o conhecimento do ChatGPT com os enormes bancos de dados mantidos por essas empresas.
As empresas apresentadas na lista incluem nomes familiares, como o processador de pagamentos Klarna, uma empresa de viagens Expedia, um aplicativo de mensagens folga, a publicação da Vogue, o aplicativo de reservas de restaurantes OpenTable, o serviço de entrega de comida dos EUA Instacart e o plug-in DAN, que mostra a capacidade de alterar a personalidade do ChatGPT.
Hoje de manhã eu estava hackeando a nova API do ChatGPT e descobri algo super interessante: existem mais de 80 plugins secretos que podem ser revelados removendo um parâmetro específico de uma chamada de API.
Os plugins secretos incluem um "plugin DAN", "plugin de preços de criptografia" e muitos mais. pic.twitter.com/Q6JO1VLz5x
— 𝟶𝟶 (@rez0__) 24 de março de 2023
A adição desses serviços, com a expectativa de mais serviços a seguir, pode mudar significativamente o cenário para ChatGPT. A integração desses plugins expande significativamente sua base de conhecimento. A inteligência artificial se beneficia do fluxo de informações dos serviços conectados e da possibilidade de acesso mais amplo pela Internet aos dados atuais. No grande esquema das coisas, o ChatGPT poderia evoluir para uma nova geração de mecanismo de busca para competir com gigantes da indústria como o Google. Ao mesmo tempo, poderiam ser desenvolvidos serviços personalizados especiais que levariam principalmente em consideração os interesses e necessidades do usuário de inteligência artificial. Isso desencadearia uma verdadeira revolução, informações personalizadas e sob medida.
Enquanto Google depende de web scraping e indexação para fornecer aos usuários links e visualizações em resposta a consultas, o ChatGPT pode acessar diretamente o conteúdo do site e operadores de serviços e gerar respostas em linguagem natural em vez de respostas baseadas em links. Esses conteúdos também podem ser mais autênticos - e ao mesmo tempo curados pelos editores. Esse desenvolvimento pode criar um forte incentivo para que as empresas se conectem com a inteligência artificial e forneçam dados e conhecimentos relevantes verificados pelos recursos humanos. Por exemplo, se o usuário perguntar ChatGPT sobre roupas da moda, a resposta pode partir das recomendações da Vogue, ou do acervo e conjunto de informações deste meio. Não apenas a web inteira. Com essa estratégia, os desenvolvedores do ChatGPT desejam evitar o fluxo de informações não verificadas. E a estratégia parece ser conectar-se com alguns recursos relevantes para cobrir certas áreas-chave.
A inclusão do Slack na lista de plugins é particularmente interessante, dada a sua concorrência contínua com a Microsoft. A empresa acusou a Microsoft de prejudicar a concorrência, que está sendo investigada pelo Escritório Federal de Cartel da Alemanha. O OpenAI e o ChatGPT estão intimamente associados à Microsoft, não apenas por meio de suporte financeiro, mas também por meio de uma estreita colaboração.
um hacker cut0 também revelou descrições de como o modelo de linguagem deve usar certos plugins. Um exemplo mostra como deveria ChatGPT comunique-se com os usuários do Speak, um professor de idiomas baseado em inteligência artificial. A IA é instruída a fornecer respostas em linguagem natural e usar a API “explainTask” quando as perguntas puderem ser interpretadas de maneira diferente.
tivemos um problema significativo no ChatGPT devido a um bug em uma biblioteca de código aberto, para o qual uma correção foi lançada e acabamos de validar.
uma pequena porcentagem de usuários conseguiu ver os títulos do histórico de conversas de outros usuários.
nos sentimos péssimos com isso.
—Sam Altman (@sama) 22 de março de 2023
Desde então, a OpenAI corrigiu a vulnerabilidade de segurança explorada pelo hacker. A empresa recentemente enfrentou outro problema quando mostrou aos usuários o histórico de bate-papo de outras pessoas. O CEO da OpenAI, Sam Altman, atribuiu o problema a um bug na biblioteca de código aberto, mas não forneceu mais detalhes. Desde então, a OpenAI lançou um programa de recompensas de bugs para encorajar o público a relatar vulnerabilidades de segurança.
