Microsoft refuerza la prohibición del uso de IA para el reconocimiento facial por parte de la policía en EE.UU. – .

Microsoft ha reforzado su decisión de prohibir a los departamentos de policía estadounidenses utilizar inteligencia artificial generativa para el reconocimiento facial a través del servicio Azure OpenAI, la plataforma de la compañía diseñada específicamente para el entorno empresarial y que integra tecnologías OpenAI. El miércoles se agregó un texto a los términos de servicio del servicio Azure OpenAI que prohíbe más explícitamente el uso de integraciones con el servicio “por o para” los departamentos de policía para el reconocimiento facial en los EE. UU., incluidas las integraciones con el análisis de imágenes actual (y posiblemente futuro) de OpenAI. modelos.

Un nuevo punto adicional prohíbe explícitamente el uso de “tecnología de reconocimiento facial en tiempo real” en cámaras móviles, como cámaras corporales y cámaras para salpicadero, para intentar identificar personas en entornos “no controlados y al aire libre” a nivel mundial.

Estos cambios de política se producen una semana después de que Axon, una empresa que fabrica productos de tecnología y armas para el ejército y las fuerzas del orden, anunciara un nuevo producto que utiliza el modelo de texto generativo GPT-4 de OpenAI para resumir el audio de las cámaras corporales. Los críticos se apresuraron a señalar problemas potenciales, como alucinaciones (incluso los mejores modelos generativos de IA actuales inventan hechos) y sesgos raciales introducidos a partir de datos de entrenamiento, lo cual es especialmente preocupante dado que las personas de color tienen muchas más probabilidades de ser detenidas por la policía. que sus pares blancos.

No está claro si Axon estaba usando GPT-4 a través del servicio Azure OpenAI y si la actualización de la política fue en respuesta al lanzamiento del producto de Axon. OpenAI había restringido previamente el uso de sus modelos para reconocimiento facial a través de sus API. Nos hemos puesto en contacto con Axon, Microsoft y OpenAI y actualizaremos esta publicación si recibimos respuesta.

Los nuevos términos dejan cierto margen de maniobra para Microsoft. La prohibición total del uso del servicio Azure OpenAI solo se aplica a los EE. UU., no a las autoridades internacionales. Y no cubre el reconocimiento facial realizado con cámaras fijas en entornos controlados, como una oficina administrativa (aunque los términos prohíben cualquier uso de reconocimiento facial por parte de la policía estadounidense).

Esta medida es consistente con el enfoque reciente de Microsoft y su socio cercano OpenAI hacia los contratos de defensa y aplicación de la ley relacionados con la IA.

En enero, un informe de Bloomberg reveló que OpenAI está colaborando con el Pentágono en varios proyectos, incluidas capacidades de ciberseguridad, lo que marca un cambio con respecto a la prohibición anterior de la startup de proporcionar su IA al ejército. Por otro lado, Microsoft ha propuesto utilizar la herramienta de imágenes de OpenAI, DALL-E, para ayudar al Departamento de Defensa (DoD) a desarrollar software para ejecutar operaciones militares, según The Intercept.

El servicio Azure OpenAI estuvo disponible en el producto Azure Government de Microsoft en febrero, agregando características adicionales de cumplimiento y administración dirigidas a agencias gubernamentales, incluidas las fuerzas del orden. En una publicación de blog, Candice Ling, vicepresidenta senior de la división gubernamental de Microsoft, Microsoft Federal, prometió que el servicio Azure OpenAI estaría “sujeto a autorizaciones adicionales” por parte del Departamento de Defensa para cargas de trabajo que respalden las misiones del Departamento de Defensa. .

¿Qué opinas de las nuevas restricciones de Microsoft sobre el uso de la IA en la aplicación de la ley?

FUENTE
 
For Latest Updates Follow us on Google News
 

PREV Motorola tiene ofertas en smartphones para madres
NEXT Mi experiencia con YouTube Premium y YouTube Music después de un año.