En su Conferencia Mundial de Desarrolladores del lunes, Apple reveló por primera vez su visión de potenciar su gama de productos con inteligencia artificial. La característica clave, que se aplicará a prácticamente toda su gama de productos, es la Inteligencia de Appleun conjunto de capacidades basadas en inteligencia artificial que promete brindar servicios de inteligencia artificial personalizados y al mismo tiempo mantener seguros los datos confidenciales.
Representa el mayor salto adelante de Apple en el uso de nuestros datos privados para ayudar a la IA a realizar tareas por nosotros. Para demostrar que puede hacer esto sin sacrificar la privacidad, la compañía dice que ha creado una nueva forma de administrar datos confidenciales en la nube.
Apple dice que su sistema centrado en la privacidad intentará primero realizar tareas de IA localmente en el propio dispositivo. Si los datos se intercambian con servicios en la nube, se cifrarán y posteriormente se eliminarán. La empresa también afirma que el proceso, que denomina Computación en la nube privada (computación en la nube privada), estará sujeto a verificación por parte de investigadores de seguridad independientes.
La propuesta supone un contraste implícito con empresas como Alphabet, Amazon o Meta, que recopilan y almacenan enormes cantidades de datos personales. Apple afirma que cualquier dato personal transmitido a la nube se utilizará únicamente para la tarea de IA en cuestión y la empresa no los conservará ni podrá acceder a ellos, ni siquiera para depuración o control de calidad, una vez que se haya completado el modelo. solicitud.
En pocas palabras, Apple está diciendo que la gente puede confiar en que analizará datos increíblemente confidenciales (fotos, mensajes y correos electrónicos que contienen detalles íntimos de nuestras vidas) y ofrecerá servicios automatizados basados en lo que encuentre allí. sin realmente almacenar los datos en línea o hacerlos vulnerables.
Mostró algunos ejemplos de cómo funcionará en las próximas versiones de iOS. Por ejemplo, en lugar de buscar en tus mensajes el podcast que te envió un amigo, puedes pedirle a Siri que lo busque y lo reproduzca. Craig Federighi, vicepresidente senior de ingeniería de software de Apple, explicó otra situación: recibes un correo electrónico que retrasa una reunión de trabajo, pero tu hija actúa en una obra de teatro esa noche. Ahora su teléfono puede encontrar el PDF con información sobre el rendimiento, predecir el tráfico local y decirle si llegará a tiempo. Estas capacidades se extenderán más allá de las aplicaciones creadas por Apple, permitiendo a los desarrolladores aprovechar también la IA de Apple.
Dado que la empresa obtiene más beneficios de hardware y servicios de publicidad, tiene menos incentivos que otros para recopilar datos personales en línea, lo que le permite posicionar al iPhone como el dispositivo más privado. Aún así, Apple ya se encuentra en el punto de mira de los defensores de la privacidad. Los fallos de seguridad provocaron filtraciones de fotografías explícitas de iCloud en 2014. En 2019, se sorprendió a contratistas escuchando grabaciones íntimas de Siri para control de calidad. Las disputas sobre cómo Apple maneja las solicitudes de datos de las agencias de aplicación de la ley continúan.
La primera línea de defensa contra las violaciones de la privacidad, según Apple, es Evite la computación en la nube para tareas de IA siempre que sea posible.. “La piedra angular del sistema de inteligencia personal es el procesamiento en el dispositivo”, dice Federighi, lo que significa que muchos de los modelos de IA se ejecutarán en iPhones y Mac en lugar de en la nube. “Tiene conocimiento de sus datos personales sin recopilar sus datos personales”.
Esto presenta algunos obstáculos técnicos. Dos años después auge Con la IA, realizar solicitudes a modelos incluso para tareas simples todavía requiere enormes cantidades de potencia informática. Lograr eso con los chips utilizados en teléfonos y computadoras portátiles es difícil, razón por la cual solo el modelo más pequeño de inteligencia artificial de Google puede ejecutarse en los teléfonos de la compañía, y todo lo demás se hace a través de la nube. Apple afirma que su capacidad para manejar cálculos de IA en el dispositivo proviene de años de investigación en diseño de chips, lo que llevó a la chips M1 que comenzó a desplegarse en 2020.
Sin embargo, Ni siquiera los chips más avanzados de Apple pueden manejar todo el espectro de tareas que la compañía promete realizar con IA.. Si le pides a Siri que haga algo complicado, es posible que tenga que pasar esa solicitud, junto con tus datos, a modelos que sólo están disponibles en los servidores de Apple. Este paso, dicen los expertos en seguridad, introduce una gran cantidad de vulnerabilidades lo que puede exponer su información a malos actores externos, o al menos a la propia Apple.
“Siempre advierto a la gente que tan pronto como los datos salen del dispositivo, se vuelven mucho más vulnerables”, dijo Albert Fox Cahn, director ejecutivo del Proyecto de Supervisión de Tecnología de Vigilancia y profesor residente del Instituto. de Derecho de la Información de la Facultad de Derecho de la Universidad de Nueva York (EE.UU.).
Apple afirma haber mitigado este riesgo con su nuevo sistema Private Cloud Compute. “Por primera vez en la historia, Private Cloud Compute extiende la seguridad y privacidad líderes en la industria de los dispositivos Apple a la nube”, escriben los expertos en seguridad de Apple en su anuncio, afirmando que los datos personales “no son accesibles a nadie más que al usuario”. Ni siquiera Apple”. ¿Como funciona?
Históricamente, Apple ha alentado a las personas a optar por el cifrado de extremo a extremo (el mismo tipo de tecnología utilizada en aplicaciones de mensajería como Signal) para proteger los datos confidenciales de iCloud. Pero eso no funciona con la IA. A diferencia de las aplicaciones de mensajería, donde una empresa como WhatsApp no necesita ver el contenido de tus mensajes para enviárselos a tus amigos, Los modelos de IA de Apple necesitan acceso no cifrado a los datos subyacentes para generar respuestas. Aquí es donde entra en juego el proceso de privacidad de Apple. En primer lugar, Apple afirma que los datos sólo se utilizarán para la tarea en cuestión. En segundo lugar, Este proceso será verificado por investigadores independientes..
No hace falta decir que la arquitectura de este sistema es complicada, pero puedes imaginarla como un protocolo de cifrado. Si su teléfono determina que necesita ayuda de un modelo de IA más grande, empaquetará una solicitud que contiene el mensaje que está utilizando y el modelo específico, y luego bloqueará esa solicitud. Solo el modelo de IA específico que se utilice tendrá la clave adecuada.
a la pregunta de Revisión de tecnología del MIT acerca de Si se notificará a los usuarios cuando se envíe una solicitud particular a modelos de IA basados en la nube en lugar de manejarse en el dispositivo.Un portavoz de Apple dijo que habrá transparencia para los usuarios, pero no hay más detalles disponibles.
Dawn Song, codirectora del Centro para la Inteligencia Descentralizada Responsable de la Universidad de California en Berkeley (EE.UU.) y experta en informática privada, afirma que las noticias de Apple son alentadoras. “La lista de objetivos que han anunciado está bien pensada”, afirma. “Por supuesto, habrá algunos desafíos para alcanzar esos objetivos”.
Cahn dice que a juzgar por lo que Apple ha revelado hasta ahora, el sistema parece mucho más protector de la privacidad que otros productos de IA que existen actualmente. Dicho esto, el estribillo común en su espacio es “Confía pero verifica”. En otras palabras, No sabremos qué tan seguros estos sistemas mantienen nuestros datos hasta que investigadores independientes puedan verificar sus afirmaciones.como Apple promete que hará, y la compañía responde a sus hallazgos.
“Abrirse a la revisión independiente por parte de investigadores es un gran paso”, afirma. “Pero eso no determina cómo vas a responder cuando los investigadores te digan cosas que no quieres escuchar”. Apple no respondió a las preguntas de Revisión de tecnología del MIT sobre cómo la empresa evaluará los comentarios de los investigadores.
El pacto entre privacidad e IA
Apple no es la única empresa que apuesta por eso Muchos de nosotros otorgaremos a los modelos de IA acceso casi ilimitado a nuestros datos privados. si eso significa que pueden automatizar tareas tediosas. Sam Altman de OpenAI describió la herramienta de IA de sus sueños para Revisión de tecnología del MIT como alguien “que sabe todo sobre mi vida, cada correo electrónico, cada conversación que he tenido”. En su propia conferencia de desarrolladores en mayo, Google anunció el Proyecto Astra, un ambicioso proyecto para construir un “agente de IA universal que sea útil en la vida cotidiana”.
Es una apuesta que nos obligará a muchos de nosotros a considerar por primera vez qué papel, si es que alguno, queremos que desempeñen los modelos de IA en la forma en que interactuamos con nuestros datos y dispositivos. Cuando ChatGPT apareció por primera vez en escena, no era una pregunta que tuviéramos que hacernos. Era simplemente un generador de texto que podía escribirnos una tarjeta de cumpleaños o un poema, y las preguntas que planteaba (como de dónde procedían los datos de entrenamiento o qué prejuicios perpetuaba) no parecían tan personales.
Ahora, menos de dos años despuésLas grandes tecnológicas están apostando miles de millones de dólares a que confiamos lo suficiente en la seguridad de estos sistemas como para entregar nuestra información privada.. Aún no está claro si sabemos lo suficiente para tomar esa decisión, o hasta qué punto podemos abstenernos incluso si lo deseamos. “Me preocupa que esta carrera armamentista de inteligencia artificial ponga cada vez más datos nuestros en manos de otros”, dice Cahn.
Apple pronto lanzará versiones beta de sus funciones Apple Intelligence, a partir de este otoño con el iPhone 15 y el nuevo macOS Sequoia, que puede ejecutarse en Mac y iPad con chips M1 o más nuevos. Dice Tim Cook, director ejecutivo de Apple: “Creemos que la inteligencia de Apple va a ser indispensable”.
