¿Por qué ChatGPT se volvió tonto? Érase una vez, no hace mucho tiempo, ChatGPT era la comidilla de la ciudad. Su habilidad para mantener conversaciones profundas, significativas y, a veces, graciosamente extrañas, lo ha convertido en un favorito del mundo de la tecnología. Pero como ocurre con todas las estrellas que crecen rápidamente, si hay una caída, puede ser rápida. Los datos recientes pintan una imagen de la disminución del tráfico del sitio web y la disminución de las descargas de aplicaciones. Una vez celebrado Charla de IA ahora se encuentra en medio de un dilema de relaciones públicas, ya que los usuarios de las redes sociales expresan su frustración con sus respuestas "perezosas" y el aumento de errores.

De hecho, solía realizar tareas sencillas prácticamente de inmediato y sin dudarlo, pero ahora no puede hacerlas o las hace solo después de repetir los comandos varias veces. Si antes podía seguir comandos complejos y más largos, ahora ni siquiera puede seguir los conceptos básicos.

¿Por qué ChatGPT ya no puede responder las preguntas más simples que recientemente dominaba por completo?

ChatGPT fue un cambio demasiado grande para el mundo existente. Si funcionó como lo hizo originalmente, e incluso mejorado, supondría la extinción de muchas profesiones. Millones de puestos de trabajo en todo el mundo estarían en peligro. Por supuesto, ChatGPT no se ha vuelto estúpido. Pero se ha limitado para que no sea peligrosa y esta tecnología no se pueda utilizar de forma indebida, incluso para crear noticias falsas y otras violaciones de derechos de autor. Muchos autores y escritores que lo han utilizado para ayudar a crear contenido nuevo creen que ChatGPT es mucho peor que el modelo original.

OpenAI, el orgulloso padre de ChatGPT, se apresuró a defender su creación. Ellos niegan firmemente cualquier "debilitamiento" deliberado de su estrella. En cambio, sugieren que la disminución percibida en el rendimiento de ChatGPT puede deberse a su mayor uso, lo que expone sus limitaciones inherentes.

evaluamos #CatGPT's a lo largo del tiempo y encontró diferencias sustanciales en sus respuestas a las *mismas preguntas* entre la versión de junio de GPT4 y GPT3.5 y las versiones de marzo. Las versiones más nuevas empeoraron en algunas tareas. con Lingjiao Chen @matei_zaharia https://t.co/TGeN4T18Fd https://t.co/36mjnejERy pic.twitter.com/FEiqrUVbg6

— James Zou (@james_y_zou) 19 de julio de 2023

La trama se complica con pistas sobre movimientos estratégicos de OpenAI. Se especula que en lugar de depender de un modelo GPT-4 gigante, OpenAI puede estar diversificándose, creando una serie de modelos GPT-4 más pequeños y especializados. Este enfoque de 'Mezcla de expertos' podría cambiar el juego, ofreciendo los beneficios de un modelo grande sin los costos computacionales asociados. ¿Por qué ChatGPT se volvió tonto?

¿Cuál es el futuro? OpenAI desarrollará productos especializados en nichos y los ofrecerá a organizaciones profesionales y a aquellos que estén dispuestos a pagar mucho por conocimientos exclusivos y asistencia para el desarrollo. En un mundo controlado por las fuerzas, no es prudente poner todo al alcance de todos. Que ChatGPT es más limitado lo demuestran varias pruebas matemáticas realizadas por diferentes autores. Si algo funcionó antes, pero ahora no, hay algún problema con el modelo.

Si bien la trayectoria actual de ChatGPT puede parecer un poco inestable, vale la pena recordar que cada maravilla tecnológica, como las personas, tiene sus altibajos. Esperemos que esto sea solo un problema temporal en el brillante viaje de ChatGPT y que pronto regrese para honrarnos con su magia de IA.

Investigadores de Stanford & Berkley preocupados por la disminución del coeficiente intelectual de ChatGPT

En un nuevo estudio que aún espera la revisión por pares, científicos de las prestigiosas universidades de Stanford y Berkeley revelaron que el popular modelo de lenguaje OpenAI GPT parece haber perdido parte de su nitidez. Sus hallazgos muestran que, en unos pocos meses, el comportamiento y la precisión de la respuesta de los modelos GPT-3.5 y GPT-4 cambiaron notablemente. De particular preocupación fue el descubrimiento de que en marzo de 2023 GPT-4 identificó fácilmente números primos con una precisión de 97.6%, pero en junio de 2023 esta precisión se había desplomado a solo 2.4%. Estos hallazgos están en línea con las quejas de varios usuarios que notaron durante el último mes que ChatGPT parece estar cada vez más "tonto". Aún así, Peter Welinder, vicepresidente de productos de OpenAI, se apresuró a negar que la reducción en el rendimiento del modelo fuera intencional. En cambio, argumentó que cada nueva versión del modelo es más inteligente que la anterior y que cualquier cambio en la experiencia del usuario puede deberse a un mayor uso. Sin embargo, la investigación de Stanford y Berkeley cuestiona esta afirmación y muestra una disminución en la precisión y la capacidad del modelo con el tiempo. Si bien los investigadores no proporcionaron razones específicas para esta caída descendente, enfatizaron que es importante comprender si las actualizaciones de un modelo que pretenden mejorar ciertas características realmente dañan sus capacidades en otras áreas. Todo esto pone en tela de juicio las afirmaciones de OpenAI de mejorar constantemente sus modelos. Al mismo tiempo, existe la duda de que OpenAI no esté haciendo esto a propósito.

¿Por qué OpenAI estaría limitando ChatGPT?

1. Preocupaciones de seguridad: Cuanto más fuerte sea la IA, mayor será el potencial de abuso. Limitar las capacidades de ChatGPT podría ser un mecanismo de defensa contra posibles abusos como desinformación, piratería u otras acciones maliciosas.
2. Protección del modelo de negocio: Es posible que OpenAI desee restringir la versión gratuita de ChatGPT para alentar a los usuarios a comprar versiones pagas o servicios que ofrezcan más funciones y capacidades.
3. Ética y responsabilidad: Con un mayor poder viene una mayor responsabilidad. OpenAI podría restringir ChatGPT para evitar que sin darse cuenta difunda información errónea o promueva ideas dañinas.
4. Presión reglamentaria: Los gobiernos y los organismos reguladores de todo el mundo son cada vez más conscientes del poder y los riesgos potenciales de la IA. OpenAI podría restringir ChatGPT en respuesta a presiones o solicitudes de los reguladores.
5. Manteniendo la calidad: Con un mayor uso y carga en el sistema, podría haber una disminución en la calidad de las respuestas. La limitación de la capacidad podría ser un medio para garantizar que ChatGPT continúe brindando respuestas confiables y de calidad. Oziorma que se mantienen las capacidades de acceso al servicio.
6. Limitaciones técnicas: Cada sistema tiene sus limitaciones. Quizás OpenAI se dio cuenta de que la infraestructura actual había llegado a sus límites y decidió limitar el rendimiento hasta que pudieran encontrar una solución.
7. Protección de la propiedad intelectual: OpenAI puede desear restringir el acceso a las funciones más avanzadas de ChatGPT para proteger su propiedad intelectual y evitar posibles copias o abusos por parte de los competidores.

 

¿Escenario más probable para limitar ChatGPT? Pues imagina una combinación de varios factores que se juntan en una especie de "tormenta perfecta" para nuestro querido robot. Primero, tenemos OpenAI, que es como una madre cariñosa que quiere que su hijo sea ético y responsable. Ella no quiere que su "pequeña" IA difunda información falsa o se involucre en intrigas. Luego está la presión regulatoria. Imagínese gobiernos que son como esos maestros que controlan en el patio de la escuela, siempre observando y esperando que alguien se equivoque. OpenAI podría predecir que este "maestro" pronto comenzaría a mover el dedo y decidiría estar un paso por delante de él. Y por supuesto, no debemos olvidar el modelo de negocio. OpenAI, aunque sin fines de lucro, también tiene facturas que pagar. Tal vez quieran que más usuarios opten por las versiones pagas en lugar de confiar en la versión gratuita. Y por último, las limitaciones técnicas. Piense en ChatGPT como un atleta que puede haberse sobreentrenado y necesita un poco de descanso para evitar "tirarse de un músculo". Juntos, todo esto constituye una combinación interesante de razones por las que nuestro querido ChatGPT podría volverse un poco más... limitado. Pero bueno, todos tenemos nuestros días, ¿verdad?

Pero de todos modos, por qué ChatGPT se ha vuelto estúpido?!