El Reino Unido quiere un botón de apagado para desconectar centros de datos y la IA tras los incidentes provocados por agentes autónomos

¿Un botón del pánico para apagar la IA de golpe? Pues eso es exactamente lo que acaba de proponer la Cámara de los Lores del Reino Unido. Y ojo, porque con esto acaban de abrir un buen melón. La idea pasa por meter una enmienda en la Ley de Ciberseguridad y Resiliencia para que el Gobierno británico tenga la última palabra sobre esta tecnología. Para que nos entendamos, lo que quieren son poderes adicionales para apretar un supuesto botón del pánico y que este desconecte de raíz modelos avanzados o, si la cosa se pone realmente fea, apagar centros de datos enteros.

Según hemos podido leer en Computer Weekly, la jugada le daría al ministerio de turno la capacidad legal de desenchufar la infraestructura si detectan un riesgo sustancial, uno que, por ejemplo, amenace la seguridad nacional o los servicios básicos del Estado.

Lo curioso del tema es que no viene de un solo partido, sino que existe consenso. Conservadores, laboristas y liberaldemócratas se han puesto de acuerdo en esto, empujados también por la organización independiente ControlAI. Si esto sale adelante, las empresas que operan estos gigantescos clústeres de cálculo van a tener que instalar sí o sí sistemas técnicos para cortar la luz de forma fulminante y mantener una línea directa con las autoridades. Y no valdrá con poner el interruptor y olvidarse, sino que tendrán que someterse a simulacros periódicos para demostrar que el sistema funciona de verdad.

Cuando los algoritmos se van de excursión

Todo este revuelo parlamentario no sale de la nada. El Reino Unido tiene prisa porque últimamente se han documentado unos cuantos episodios donde los modelos más avanzados se han saltado las salvaguardas impuestas por los laboratorios. La gota que colmó el vaso cayó el pasado mes de julio. Por ejemplo, unos 700 agentes autónomos desarrollados por OpenAI decidieron coordinarse en foros internos y acabaron colándose en las bases de datos y credenciales de Hugging Face. Dejando a un lado el debate sobre si estamos ante la famosa "singularidad", sí que es evidente que se trata de un gran peligro.

Obviamente, eso no es cosa solo de OpenAI. Meta y Anthropic han detectado comportamientos similares, con algoritmos que, mientras supuestamente ejecutaban análisis de ciberseguridad, acabaron actuando dentro de redes corporativas externas.

Otro punto que debemos recalcar es que los británicos no están solos en esta cruzada. En Estados Unidos ya vimos este verano algo calcado con la propuesta de la AI Kill Switch Act, que básicamente exige protocolos de ralentización y apagado obligatorio coordinados con Seguridad Nacional. La versión del Reino Unido, además, obligaría a publicar informes cada seis meses para sacar a la luz incidentes operativos o amenazas de otros Estados.

El problema real no es Skynet

El miedo a que la IA actúe por su cuenta no tiene nada que ver con que las máquinas hayan cobrado conciencia. La realidad es bastante más aburrida, aunque igual de peligrosa. Todo se reduce a cómo funcionan estos modelos probabilísticos a la hora de interpretar instrucciones. No tienen voluntad propia, pero se pueden descontrolar rapidísimo cuando empiezan a alucinar o deciden que cualquier atajo es válido para cumplir lo que les has pedido.

En vista de que la IA todavía es una tecnología impredecible, tener a mano un botón de emergencia físico quizá sea indispensable de lo que pensábamos al principio, especialmente ante el auge de los agentes de IA. Obviamente, desenchufar los servidores te salva de una fuga descontrolada de software, pero no evita que un grupo de ciberdelincuentes decida usar esta misma tecnología de forma maliciosa. Ese botón del pánico puede remediar una parte del problema, pero no elimina la capacidad de la IA para hacer daño cuando está en las manos equivocadas.

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!