Carta abierta de expertos de OpenAI advierte sobre “riesgos graves” y pide protección para los denunciantes – .

(CNN)— Un grupo de expertos OpenAI exige que las empresas de IA sean mucho más transparentes sobre los “graves riesgos” de la IA y protejan a los empleados que expresen preocupaciones sobre la tecnología que están desarrollando.

“Las empresas de IA tienen fuertes incentivos financieros para evitar una supervisión efectiva”, se lee en la carta abierta publicada el martes y firmada por empleados actuales y anteriores de empresas de IA, incluido OpenAI, el creador de la famosa herramienta ChatGPT. .

También pidieron a las empresas de inteligencia artificial que fomenten “una cultura de crítica abierta” que dé la bienvenida, en lugar de castigar, a las personas que plantean inquietudes, especialmente cuando la ley lucha por ponerse al día con el rápido avance de la tecnología. tecnología.

Las empresas han reconocido los “graves riesgos” que plantea la IA (desde la manipulación hasta una pérdida de control, conocida como “singularidad, que podría resultar potencialmente en la extinción humana”), pero deberían hacer más para educar al público sobre los riesgos. riesgos y medidas de protección, escribió el grupo.

Tal como está la ley, dijeron los empleados de AI, no creen que las compañías de AI compartan información clave sobre la tecnología de forma voluntaria.

Es esencial, entonces, que los empleados actuales y anteriores hablen y que las empresas no implementen acuerdos de “difamación” ni tomen represalias contra quienes expresan preocupaciones relacionadas con el riesgo. “Las protecciones ordinarias a los denunciantes son insuficientes porque se centran en actividades ilegales, mientras que muchos de los riesgos que nos preocupan aún no están regulados”, escribió el grupo.

Los empleados actuales y anteriores de OpenAI hablan de la necesidad de que la empresa y otros similares sean más transparentes sobre la tecnología que están desarrollando. Crédito: Didem Mente/Anadolu/Getty Images

Su carta llega mientras las empresas se apresuran a implementar herramientas de IA generativa en sus productos, mientras los reguladores gubernamentales, las empresas y los consumidores luchan por un uso responsable. Mientras tanto, muchos expertos en tecnología, investigadores y líderes han pedido una pausa temporal en la carrera de la IA o que el gobierno intervenga y cree una moratoria.

La respuesta de OpenAI

En respuesta a la carta, el portavoz de OpenAI dijo a CNN que está “orgulloso de nuestro historial de proporcionar los sistemas de IA más capaces y seguros y cree en nuestro enfoque científico para abordar el riesgo”, y agregó que la compañía está de acuerdo en que “un debate riguroso es crucial”. dada la importancia de esta tecnología”.

OpenAI señaló que tiene una línea directa de integridad anónima y un Comité de Seguridad dirigido por miembros de su junta directiva y líderes de seguridad de la empresa. La empresa no vende información personal, no crea perfiles de usuario ni utiliza esos datos para dirigirse a nadie ni vender nada.

Sin embargo, Daniel Ziegler, uno de los organizadores detrás de la carta y uno de los primeros ingenieros de aprendizaje automático que trabajó en OpenAI entre 2018 y 2021, le dijo a CNN que es importante permanecer escéptico sobre el compromiso de la empresa con la transparencia.

“Es realmente difícil decir desde fuera cuán seriamente están tomando sus compromisos de aumentar la seguridad y determinar los daños sociales, especialmente porque existen fuertes presiones comerciales para actuar muy rápidamente”, dijo. “Es realmente importante tener la cultura y los procesos adecuados para que los empleados puedan hablar específicamente cuando tengan inquietudes”.

Espera que más profesionales de la industria de la IA hagan públicas sus preocupaciones como resultado de la carta.

Mientras tanto, se espera que Apple anuncie una asociación con OpenAI en su Conferencia Mundial de Desarrolladores anual para llevar la IA generativa al iPhone.

“Vemos la IA generativa como una oportunidad clave en todos nuestros productos y creemos que tenemos ventajas diferenciadoras allí”, dijo el CEO de Apple, Tim Cook, en la conferencia telefónica sobre resultados más reciente de la compañía a principios de mayo. .

 
For Latest Updates Follow us on Google News
 

PREV “Tenemos propiedades occidentales bajo nuestra jurisdicción” – .
NEXT “Tenemos propiedades occidentales bajo nuestra jurisdicción” – .