Los directores ejecutivos de OpenAI, Microsoft, Alphabet y Nvidia se unirán a la Junta de Seguridad de Inteligencia Artificial de EE. UU., según un informe de El periodico de Wall Street. La agencia federal está diseñada para asesorar al Departamento de Seguridad Nacional (DHS) sobre la implementación segura de sistemas de inteligencia artificial (IA) en la infraestructura crítica del país.
La entidad está integrada por especialistas en inteligencia artificial del sector privado, académicos y funcionarios gubernamentales. Su misión es “aprovechar la experiencia y la infraestructura de IA para evaluar los riesgos emergentes relacionados con el uso de la tecnología en sectores nacionales críticos y brindar asesoramiento y recomendaciones para mitigar esos peligros”. El Consejo contribuirá al diseño de directrices y estándares para garantizar el uso seguro de algoritmos inteligentes en sectores como la red eléctrica, el transporte y la manufactura.
Alejandro Mayorkas, secretario del DHS, dijo al diario que la IA tiene un enorme potencial para mejorar la operación, el desempeño y la eficacia de los servicios públicos. Reconoce que su implementación conlleva riesgos importantes que deben identificarse y contenerse oportunamente. Las acciones y recomendaciones del Consejo de Seguridad de la Inteligencia Artificial serán la base para establecer políticas y mecanismos que contengan posibles amenazas.
La ONU aprueba la primera resolución global sobre inteligencia artificial
La resolución sobre IA adoptada este jueves en la ONU no es vinculante y aún no ha sido firmada en su redacción final. Fue presentado por Estados Unidos y China dio su apoyo.
La administración del presidente Joe Biden ordenó el año pasado la creación del consejo de IA mediante una orden ejecutiva. Entre otras cosas, el decreto permite utilizar la Ley de Producción de Defensa para exigir a los fabricantes de grandes modelos de IA que proporcionen información clave sobre los procesos de entrenamiento de sus sistemas. Esto incluye la divulgación de los resultados de los llamados ejercicios del equipo rojo, destinados a revelar vulnerabilidades en los modelos de IA que faciliten su uso malicioso o generen malware.
La incorporación de Sam Altman, Satya Nadella, Sundar Pichai y Jensen Huang al consejo de IA ha generado preocupaciones sobre sus intereses comerciales y cómo pueden influir en las recomendaciones hechas al DHS. Mayorkas dice que los líderes “entienden la misión de la junta y son conscientes de que no está relacionada con el desarrollo empresarial. “Es una cuestión de seguridad nacional”.
El gobierno de Estados Unidos ha intentado regular el avance de la IA sin éxito. Analistas citados por El periodico de Wall Street Sugieren que los pocos avances tienen relación con las disputas internas protagonizadas por las fuerzas políticas del Congreso.
Aumenta la urgencia de regular la IA
La regulación de la IA se ha convertido en uno de los temas de mayor interés a nivel mundial. El marco regulatorio impuesto por la Unión Europea se considera uno de los proyectos más sólidos hasta el momento. La normativa fue criticada en varias ocasiones por Sam Altman, director ejecutivo de OpenAI. Sundar Pichai, director general de Alphabet, se anticipó a la aprobación de la ley y anunció un acuerdo voluntario con los legisladores europeos para establecer un conjunto provisional de acuerdos en torno al desarrollo de la IA.
Los expertos han advertido que la industria tecnológica pretende establecer regulaciones bajo sus propios estándares. OpenAI, Google, Microsoft y Anthropic se unieron para lanzar el Foro Modelo de frontera, un panel centrado en garantizar el desarrollo seguro y responsable de modelos de inteligencia artificial. El gran tecnología Esperan establecer mejores prácticas y mecanismos que regulen el avance de esta tecnología. El éxito de los esfuerzos está comprometido. Hay varios intereses en juego. Cifras del banco de datos estadista Prevén que el valor de mercado de la inteligencia artificial puede superar los 300.000 millones de dólares en 2025.
