El hacker descubrió una lista de más de 80 complementos adicionales conectados a ChatGPT a través de su API, expandiendo drásticamente el conocimiento de la IA, insinuando su posible rol futuro como competidor de búsqueda de Google.
Una brecha de seguridad reciente ChatGPT ha revelado más de 80 complementos relacionados con ChatGPT, un modelo de lenguaje avanzado para inteligencia artificial IA abierta. Un hacker conocido como rez0 obtuvo acceso a la API y descubrió una lista de proveedores de los llamados complementos, lo que muestra el potencial para ampliar enormemente el conocimiento de ChatGPT con las enormes bases de datos que tienen estas empresas.
Las empresas que aparecen en la lista incluyen nombres familiares como el procesador de pagos Klarna, una empresa de viajes Expedia, una aplicación de mensajería Flojo, la publicación de Vogue, la aplicación de reserva de restaurantes OpenTable, el servicio de entrega de alimentos de EE. UU. Instacart y el complemento DAN, que muestra la capacidad de cambiar la personalidad de ChatGPT.
Esta mañana estaba pirateando la nueva API de ChatGPT y encontré algo súper interesante: hay más de 80 complementos secretos que se pueden revelar al eliminar un parámetro específico de una llamada a la API.
Los complementos secretos incluyen un "complemento DAN", un "complemento de precios criptográficos" y muchos más. pic.twitter.com/Q6JO1VLz5x
— 𝟶𝟶 (@rez0__) 24 de marzo de 2023
La adición de estos servicios, y se espera que sigan más, podría cambiar significativamente el panorama para ChatGPT. La integración de estos complementos amplía significativamente su base de conocimientos. La inteligencia artificial se beneficia del flujo de información de los servicios conectados y la posibilidad de un acceso más amplio a Internet a los datos actuales. En el gran esquema de las cosas, ChatGPT podría convertirse en una nueva generación de motores de búsqueda para competir con gigantes de la industria como Google. Al mismo tiempo, se podrían desarrollar servicios personalizados especiales que tuvieran en cuenta principalmente los intereses y necesidades del usuario de inteligencia artificial. Esto desencadenaría una auténtica revolución, la información personalizada ya medida.
Mientras Google se basa en la indexación y el raspado web para proporcionar a los usuarios enlaces y vistas previas en respuesta a las consultas, ChatGPT puede acceder directamente al contenido de los operadores de servicios y sitios web y generar respuestas en lenguaje natural en lugar de respuestas basadas en enlaces. Estos contenidos también pueden ser más auténticos y, al mismo tiempo, seleccionados por los editores. Este desarrollo podría crear un fuerte incentivo para que las empresas se conecten con la inteligencia artificial y proporcionen datos y conocimientos relevantes verificados por recursos humanos. Por ejemplo, si el usuario pregunta ChatGPT sobre ropa de moda, la respuesta podría estar basada en las recomendaciones de Vogue, o de la recopilación y conjunto de información de este medio. No solo toda la web. Con esta estrategia, los desarrolladores de ChatGPT quieren evitar la avalancha de información no verificada. Y la estrategia parece ser conectarse con algunos recursos relevantes para cubrir ciertas áreas clave.
La inclusión de Slack en la lista de complementos es particularmente interesante dada su competencia actual con Microsoft. La compañía acusó a Microsoft de dañar la competencia, lo que actualmente está siendo investigado por la Oficina Federal de Cárteles de Alemania. OpenAI y ChatGPT están estrechamente asociados con Microsoft, no solo a través del apoyo financiero sino también a través de una estrecha colaboración.
un hacker cortar0 también reveló descripciones de cómo el modelo de lenguaje debería usar ciertos complementos. Un ejemplo muestra cómo debería ChatGPT comunicarse con los usuarios de Speak, un profesor de idiomas basado en inteligencia artificial. Se instruye a la IA para que proporcione respuestas en lenguaje natural y use la API "explainTask" cuando las preguntas se pueden interpretar de manera diferente.
tuvimos un problema importante en ChatGPT debido a un error en una biblioteca de código abierto, para el cual ahora se lanzó una solución y acabamos de terminar de validar.
un pequeño porcentaje de usuarios pudo ver los títulos del historial de conversaciones de otros usuarios.
nos sentimos muy mal por esto.
— Sam Altman (@sama) 22 de marzo de 2023
Desde entonces, OpenAI ha parcheado la vulnerabilidad de seguridad explotada por el hacker. La empresa enfrentó recientemente otro problema cuando mostró a los usuarios el historial de chat de otras personas. El CEO de OpenAI, Sam Altman, atribuyó el problema a un error en la biblioteca de código abierto, pero no proporcionó más detalles. Desde entonces, OpenAI ha lanzado un programa de recompensas por errores para alentar al público a informar vulnerabilidades de seguridad.
