El impulso de Apple hacia la IA pone a prueba su valor añadido en materia de privacidad

Apple siempre se ha beneficiado de una valoración de mercado superior, basada en la calidad de su hardware, un ecosistematrony una fidelidad inquebrantable de sus clientes. Sin embargo, en la era de la IA, la compañía se enfrenta a un desafío más complejo en cuanto a cómo mantener su reputación en lo que respecta al respeto de la privacidad, mientras su tecnología se vuelve más personalizada, se integra más en la vida digital del usuario y, en ocasiones, depende de procesos que van más allá del propio dispositivo.

El Financial Times resumió el dilema de Apple en su titular:

“La prima de confianza que genera Apple en la era de la IA.”

Este planteamiento es significativo, ya que Apple ahora está apelando a sus clientes para que extiendan la misma confianza que tienen en sus dispositivos a un asistente mucho más ávido de información.

El 14 de septiembre, Apple lanzó su más reciente aproximación a "Apple Intelligence", que incluye una versión beta de Siri AI en inglés. La compañía describió la nueva versión como una Siri "totalmente nueva", capaz de comprender el contexto personal, tener conciencia de lo que sucede en pantalla y realizar más acciones en diferentes aplicaciones.

Lo que Apple está pidiendo a los usuarios que entreguen

La versión actualizada de Siri tiene la capacidad de utilizar información personal de todos los dispositivos del usuario, así como lo que aparece en la pantalla, para responder a consultas y realizar acciones.

Según la página de privacidad de Apple, cada solicitud se evalúa para determinar si se puede ejecutar utilizando datos del dispositivo o si debe utilizar la computación en la nube privada (PCC). La estrategia de privacidad de Apple comienza con unatrongarantía sobre cómo se gestionan las solicitudes una vez que llegan a los servidores de la compañía:

Con Private Cloud Compute, tus datos nunca son accesibles para Apple; se utilizan exclusivamente para atender tus solicitudes.

Esta garantía es fundamental para la confianza. Apple afirma que el software del servidor puede ser examinado por expertosdent , y que la información privada de los usuarios y sus interacciones no se utilizan para entrenar los modelos fundamentales a menos que los usuarios den su consentimiento.

Estas preferencias son importantes, ya que, según el programa «Mejora de Siri y la Inteligencia de Apple», el audio, las transcripciones y otra información relevante se pueden conservar hasta dos años y asociar a identificadores generados aleatoriamentedentel dispositivo. Parte de la información puede ser analizada por personas, pero el análisis de audio lo realiza exclusivamente el personal de Apple.

En otras palabras, la confianza se basa no solo en la arquitectura de Apple, sino también en las opciones predeterminadas y las preferencias del usuario.

La historia de confianza ahora se basa en el hardware de otras compañías

En junio, Apple anunció en una actualización de seguridad que estaba colaborando con Google y NVIDIA para ejecutar cargas de trabajo exigentes de Apple Intelligence en Google Cloud utilizando GPU de NVIDIA, extendiendo así PCC a centros de datos de terceros por primera vez. Apple también indicó que su próxima generación de Apple Foundation Models se desarrolló con Google utilizando la tecnología de Gemini.

Según Apple, las medidas de seguridad de PCC supervisan esas cargas de trabajo y los binarios permanecen disponibles para su examen por terceros independientesdent de terceros auditorías SOC 3 para el sistema de aprovisionamiento de PCC, pero su propia documentación especifica lo siguiente:

Los exámenes no se realizaron para evaluar el rendimiento o la integridad de los servicios de inteligencia artificial de Apple.

En otras palabras, la prueba mide qué tipo de controles y medidas tiene implementadas la PCC, en lugar de si la IA de Siri es precisa y confiable. Esta distinción determina cómo se puede utilizar el informe SOC 3 como prueba de la calidad de la tecnología de IA de Apple.

¿Por qué la confianza es ahora un bien escaso?

La posibilidad de progreso es evidente, ya que el uso de la IA crece más rápido que la confianza en la tecnología. Una encuesta realizada en junio por el Pew Research Center a 5119 adultos en Estados Unidos reveló que el 49 % de ellos había utilizado chatbots al menos una vez, mientras que solo el 33 % confesó haberlos utilizado en 2024.

La misma encuesta reveló que el 63% de losdentconsidera que el proceso de desarrollo de las tecnologías de IA es demasiado rápido, el 71% piensa que la IA hará que la información personal sea más vulnerable y el 59% carece de confianza en la capacidad de las empresas locales para manejar la tecnología de manera adecuada.

Dado el tamaño de Apple, la privacidad podría convertirse en una ventaja competitiva en lugar de una simple estrategia de marketing. Si los clientes valoran las medidas de protección comprobadas, los competidores y los proveedores de servicios en la nube se verán obligados a combinar las características de sus modelos con inferenciadent, auditorías externas e infraestructura auditable.

La política de confianza de Apple también está siendo objeto de escrutinio en otros ámbitos además de la IA. Cryptopolitan informó sobre la mediación del Reino Unido para el acceso a los datos cifrados en la nube de Apple. Reuters informó el 17 de septiembre que la primera directiva se retiró tras las negociaciones con Estados Unidos, pero una segunda directiva, con fecha de julio, se aplica a los clientes de Apple residentes en el Reino Unido.

El puente criptográfico: verificar en lugar de confiar

Las criptomonedas se desarrollaron bajo el mismo concepto: disminuir la dependencia de la confianza institucional mediante credenciales criptográficamente verificables, lo cual se está presentando actualmente en algunas investigaciones oficiales. Un documento de trabajo del Banco de Pagos Internacionales (BPI), publicado el 2 de septiembre, abogaba por vincular las huellas digitales criptográficas de las estadísticas públicas al XRP , ofreciendo así a los usuarios la posibilidad de confirmar su origen e integridad.

Además, el Boletín del BIS publicado en julio evaluó el equilibrio entre descentralización, seguridad y escalabilidad, y concluyó que algunas respuestas a la fragmentación de la cadena de bloques podrían restablecer la confianza y la dependencia de la gobernanza.

Apple se sitúa en un punto intermedio entre esos dos extremos. Si bien sigue pidiendo a sus usuarios que confíen en la empresa, ahora intenta cada vez más que esa confianza sea verificable mediante la publicación de software, el cifrado y la auditoríadent de sus sistemas y procesos.

El hecho de que esta combinación sirva o no para consolidar su estatus premium podría resultar una prueba crucial para la privacidad frente a la tecnología de IA.

¿Qué deben entender los usuarios sobre el modelo de privacidad de la IA de Apple?

La distinción clave radica en la diferencia entre los datos que Apple afirma recopilar, los datos que procesa en el dispositivo y los datos procesados en la nube privada. El modelo de Apple está diseñado para limitar el acceso directo a la información personal, al tiempo que permite que las cargas de trabajo de IA más exigentes utilicen la computación en la nube.

El modelo de Apple cambia la pregunta de simplemente "¿Apple recopila mis datos?" a "¿Qué datos se procesan, dónde, durante cuánto tiempo, bajo quédenty sujetos a qué verificación externa?". Esta distinción cobra cada vez más importancia a medida que los sistemas de IA acceden a más información personal y realizan más acciones en nombre del usuario.

Si estás leyendo esto, ya llevas ventaja. Mantente al día con nuestro boletín informativo.