Los nuevos modelos de chatgpt y sus comportamientos extraños -.

La semana pasada, Operai presentó dos nuevos modelos: ChatGPT O3 y O4-Mini. Con la intriga de ver qué nuevas actualizaciones podrían traer estos modelos, los usuarios comenzaron a darles vida a través de su indicaciones. Además de registrar las nuevas capacidades ofrecidas por ambos sistemas, sus fallas se volvieron virales. O, más bien, ciertos aspectos raros que se materializaron en los dos productos ofrecidos por la gran compañía técnico.

En general, ChatGPT O3 y O4-Mini se centran en el razonamiento. Los modelos están diseñados para programar, navegar por la web, generar imágenes de forma autónoma e incluso pensar con imágenes. Son dos sistemas que buscan combinar todas las habilidades de inteligencia artificial desarrolladas por Operai en un solo lugar. Sam Altman, en la red social X, los presentó como los modelos más poderosos que la compañía tiene hasta el día de hoy. “Intelectualmente sabía que esto iba a suceder, pero me parece diferente verlo”, escribió el director ejecutivo sobre el lanzamiento.

Sin embargo, Una de las cosas extrañas (y preocuparse por algunos) es el hecho de que estos modelos incluyen el nombre del usuario, sin que se les pregunte, en su proceso de razonamiento.. Es importante aclarar que, insertando un inmediatoEstos dos sistemas muestran todos los pasos de su proceso de razonamiento en el chat: lo que analizan, dónde están buscando, qué errores encuentran, entre otros pasos que los llevan a la respuesta final. Entonces, cuando una persona da una indicación de la inteligencia artificial, comienza con el nombre. Por ejemplo: “Victoria pidió calcular …”

Simon Willison, un empresario y entusiasta de la tecnología con varios seguidores, compartió este fenómeno en X junto con un comentario que denota su desacuerdo con esta nueva función. “¿Alguien así usa su nombre en su cadena de pensamientos, en lugar de encontrarlo espeluznante e innecesario?”. Muchas personas se unieron al hilo y comentaron que no parecían una buena actualización y que, de hecho, la odiaban. “La primera vez que lo vi, actualicé las instrucciones en mi chat para dejar de hacerlo”, escribió un usuario.

DeBash Pattanayak, un especialista en tecnología, que compartió una foto de cómo ChatGPT materializó esta tendencia. “Es raro ver su propio nombre en el proceso de pensamiento del modelo”, escribió. “¿Hay alguna razón por la que agregaron eso?” Preguntó en las redes, etiquetando OpenAi. La compañía no respondió, pero hay una explicación para esta tendencia.

Según La Nacion Santiago Vespoli, un experto en tecnología y cofundador de Erebant -Consultor especializado en inteligencia artificial -,,,, Recientemente OpenAi mejoró la memoria de chatgpt para que pueda recordar todo el historial de chat y consulte las conversaciones o conocimiento pasados. “También es parte de un esfuerzo para acercar la inteligencia artificial con el usuario. Usar su nombre es un intento de generar un espacio de intimidad”, dijo.

Este intento cercano puso el antropomorfización tecnológica, un concepto que se utiliza para escribir la tendencia a atribuir características humanas a las máquinas. Sobre esto, Sergio Pernice, director de ingeniería de inteligencia artificial, le dijo a La Nación que hasta 2022 la conversación era una actividad exclusivamente humana. “El lenguaje, la comunicación sofisticada, es una de las características que nos distingue”, dijo. “Cuando una tecnología comienza a hacer cosas que los humanos solo hicieron, como hablar, la antropomorfización es casi inevitable“Confirmó.

Sin embargo, al contrario de Pernice, Christian Ferrer, sociólogo y profesor del presidente de la cultura, la técnica y la sociedad en la Facultad de Ciencias Sociales (UBA), le dijo a La Nérion que no cree que ChatGPT pueda antropomorfizar. “Sospecho que es al revés: o los seres humanos comienzan a modelar nuestro lenguaje para que se ajuste a la máquina, o estas comodidades nos harán seres sin mucho contacto con los demás y con terror a cualquier fricción con otra piel.“, Reflexionó.

Pero los modelos ChatGPT O3 y O4-Mini también fueron una tendencia a aspectos que no tienen nada que ver con sus nuevas funciones de procesamiento multimodal. El usuario X Daniel Growing, que siempre comparte reflexiones controvertidas y tiene una gran comunidad de seguidores, instalada El rumor de que chatgpt ahora está obsesionado con la inmaculada concepción de María. “Hay un equipo completo dentro de OpenAi tratando frenéticamente de descubrir por qué y un enorme esfuerzo de despliegue para evitar que hable de eso. Nadie entiende por qué y es cada vez más intenso”, escribió.

Aunque es solo una especulación basada en lo que dijo un usuario en X, la acusación tomó más carácter cuando Un diseñador de modelos en OpenAi, Aidan McLaughlin, respondió en el hilo “Es verdad” y luego lo borró. Daniel lo expuso y aseguró que del gigante tecnológico están “asustados de que esto salga a la luz antes de que entiendan las consecuencias”. A lo que Aidan respondió: “No puedo decir cosas hermosas”, refiriéndose a lo que bloquearon o eliminaron de una fuerza mayor lo que había dicho.

Sobre esto, Vespoli dijo que No hay confirmación oficial, además de los ejemplos que circulan en X no parecen serios. “Dicho esto, son cosas que pueden suceder en silencio. Al usar modelos de aprendizaje profundoY dado el tipo de arquitectura que tienen, nadie entiende completamente cómo funcionan o qué habilidades realmente tienen, “dijo Vespoli”. Son una especie de caja negra. Por lo tanto, pueden exhibir comportamientos inusuales que ni siquiera los investigadores de Openai pueden anticipar o controlar en absoluto ”, agregó.

En este sentido, Augusto Alegre, un especialista en inteligencia artificial, confirmó a La Nación que al usar los nuevos modelos no vio que escribieran respuestas evangelizadas. Sin embargo, al tratar de buscar una explicación para este posible fenómeno, dijo: “Quizás indujeron el modelo con una serie de instrucciones anteriores que lo llevaron a cometer un razonamiento erróneo. Y bueno, los modelos de hoy alucinan … cada vez menos, pero alucinan. Cometen errores, cada vez menos, pero cometen errores”.