Google quiere que su IA en la nube sea tan privada como la del móvil, y una auditoría externa ya lo ha puesto a prueba

Google ha presentado Private AI Compute, un nuevo sistema diseñado para ejecutar sus modelos Gemini más potentes en la nube sin renunciar a la privacidad que ofrece el procesamiento local en el dispositivo. El objetivo es claro: poder usar funciones de IA avanzadas que analizan datos sensibles, como correos o resúmenes de grabaciones, con la garantía de que nadie puede acceder a esa información. Ni siquiera Google.

El problema que busca resolver es uno de los grandes dilemas de la IA. El procesamiento en el dispositivo es muy privado, pero limitado en potencia. La IA en la nube es mucho más capaz, pero requiere enviar datos personales a servidores externos. Este es un desafío clave en la industria. Sin ir más lejos, Apple Intelligence apuesta por los modelos locales, pero también cuenta con su propia nube privada. Aunque ya existen herramientas de IA que funcionan en local, estas no suelen ser suficientes para los modelos más complejos que Google quiere implementar en funciones como Magic Cue de los Pixel 10 o los resúmenes de la app Grabadora.

Private AI Compute busca ser un puente entre ambos mundos. Para los que no se acaban de fiar, Google ha encargado una auditoría de seguridad independiente a la firma NCC Group, que ha publicado un informe público tras una exhaustiva revisión. El análisis confirma que el propósito de la arquitectura es "extender las capacidades de IA del dispositivo móvil con recursos más potentes en la nube, mientras se aspira a que los datos del usuario sigan teniendo las mismas garantías de privacidad que con los cómputos locales".

Enclaves de hardware y un "relé ciego" para proteger los datos

Para lograr este aislamiento, el sistema se basa en "enclaves de hardware". Estos son, en esencia, máquinas virtuales fuertemente aisladas que se ejecutan en las TPU personalizadas de Google. Todos los componentes que tocan datos del usuario se ejecutan en estos enclaves, impidiendo que incluso un administrador del sistema con altos privilegios pueda espiar los datos que se están procesando.

La comunicación entre el móvil y la nube, así como entre los propios servidores, está protegida por "atestación remota". Este proceso criptográfico permite a un enclave demostrar que es genuino y que está ejecutando el software correcto y no modificado antes de que se le confíe ningún dato. Un "guardián" central (llamado Borg Prime) verifica estas pruebas antes de autorizar cualquier operación.

Quizás la parte más importante para la privacidad del usuario es el "relé de ceguera de IP". Para evitar que Google pueda correlacionar una consulta con un usuario específico, el sistema enruta las peticiones a través de servidores de terceros (la auditoría menciona a Cloudflare y Fastly). Esto, combinado con un sistema de 'tokens' ciegos (Blind RSA), disocia la identidad del usuario de la consulta que está realizando. El objetivo es que la petición "no pueda ser rastreada" hasta el usuario de origen.

La conclusión de NCC Group es que el sistema ofrece una protección "robusta" contra "intrusos maliciosos", como podría ser un empleado deshonesto. Sin embargo, la auditoría es clara sobre la limitación inherente del modelo: no protege al usuario "si Google, como organización en su conjunto, decide hacerlo". Al controlar tanto el hardware (TPUs) como el software de atestación, la compañía conserva la capacidad última de acceder. No obstante, la auditora califica este diseño como "el mejor modelo factible" para lograr la privacidad en la nube hoy en día.

La revisión de seguridad sí encontró algunas vulnerabilidades, aunque la mayoría de riesgo bajo. La más destacada es un canal lateral basado en temporización en el relé de IP, que teóricamente "podría desenmascarar" a usuarios bajo condiciones muy específicas. Google ha respondido a la auditoría indicando que esto es un "riesgo teórico" y que el "ruido" generado por los múltiples usuarios del sistema lo hace inviable en la práctica.

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!