Un exlíder de OpenAI que renunció a la empresa esta semana dijo el viernes que la seguridad “ha pasado a un segundo plano” en la influyente empresa de inteligencia artificial (IA).
Jan Leike, quien dirigió el equipo de “Superalignment” de OpenAI junto con el cofundador de la compañía, quien también renunció esta semana, escribió en una serie de publicaciones en la red social X que se unió a la compañía con sede en San Francisco. , porque pensó que sería el mejor lugar para realizar investigaciones sobre IA.
“Sin embargo, he estado en desacuerdo con el liderazgo de OpenAI durante bastante tiempo sobre las prioridades centrales de la compañía, hasta que finalmente llegamos a un punto crítico”, escribió Leike, cuyo último día en la compañía fue el jueves.
Leike, formado como investigador de IA, dijo que cree que se debería poner más énfasis en la preparación para la próxima generación de modelos de IA, incluidos factores como la seguridad y el análisis del impacto de esas tecnologías en la sociedad. Dijo que construir “máquinas más inteligentes que los seres humanos es una tarea intrínsecamente peligrosa” y que la empresa “tiene una enorme responsabilidad para con la humanidad”.
“OpenAI debe convertirse en una empresa AGI que priorice la seguridad”, escribió Leike, utilizando la abreviatura en inglés de inteligencia general artificial, una visión futurista de máquinas que generalmente son tan inteligentes como los humanos, o al menos, pueden hacer muchas cosas tan bien como las personas. hacer.
La renuncia de Leike se produjo después de que el cofundador y científico jefe de OpenAI, Ilya Sutskever, dijera el martes que dejaría la compañía después de casi una década. Sutskever fue uno de los cuatro miembros de la junta que votaron el otoño pasado para destituir al director ejecutivo Sam Altman, solo para ser reinstalado inmediatamente. Fue Sutskever quien informó a Altman en noviembre pasado que sería despedido, pero luego dijo que se arrepentía de haberlo hecho.
Sutskever dijo que está trabajando en un nuevo proyecto importante para él, pero no dio más detalles. Jakub Pachoki lo sustituirá como científico jefe. Altman dijo que Pachocki “también es fácilmente una de las mentes más brillantes de nuestra generación” y dijo que “tiene mucha confianza en que podrá guiarnos para avanzar de manera rápida y segura hacia nuestra misión de garantizar que el AGI nos beneficie a todos”. todo”.
El lunes, OpenAI mostró la última actualización de su modelo de inteligencia artificial, que puede imitar la cadencia humana en sus respuestas verbales e incluso puede intentar detectar el estado de ánimo de las personas.
——
Associated Press y OpenAI tienen un acuerdo de licencia y tecnología que permite a OpenAI acceder a una parte de los archivos de texto de AP.
