Los expertos en ciberseguridad ofensiva denuncian que las barreras de la IA les impiden hacer su trabajo

En una de sus últimas publicaciones, TechCrunch aborda un debate interesante y necesario. Y es que los laboratorios de IA han diseñado programas de verificación y barreras de seguridad estrictas para evitar que sus modelos se utilicen con fines maliciosos. Sin embargo, estas mismas restricciones empiezan a convertirse en un obstáculo para los propios profesionales de la ciberseguridad, tanto defensores como investigadores especializados en encontrar vulnerabilidades antes que los atacantes.

El debate se ha reavivado tras la polémica en torno a los modelos Mythos y Fable de Anthropic. En junio, el Gobierno de Estados Unidos impuso restricciones de exportación a ambos sistemas después de que un informe advirtiera de que era posible saltarse las barreras diseñadas para evitar ataques informáticos. Las restricciones ya se han levantado. Por ejemplo, Fable 5 recuperó el acceso general el 1 de julio, mientras que Mythos 5 solo está disponible para organizaciones estadounidenses verificadas dentro del proceso de revisión gubernamental.

Investigadores denuncian que las barreras frenan la ciberseguridad ofensiva

El investigador de seguridad Mark Dowd, con décadas de experiencia localizando y vendiendo vulnerabilidades de día cero a gobiernos occidentales, se mostró crítico durante un podcast especializado. Aseguró que no le resulta cómodo que "empresas privadas tomen decisiones arbitrarias sobre qué es seguro en el ámbito de la seguridad y qué no", aunque reconoció que su perspectiva puede estar condicionada por su propio trabajo.

Chris Anley, científico jefe de NCC Group, explicó que pedir a un modelo que intente explotar un fallo es un paso clave para confirmar si una vulnerabilidad es real. Cuando la barrera de seguridad bloquea directamente la respuesta, el perjuicio recae también sobre los defensores. Según Anley, la instrucción de "arreglar este código" funciona a la vez como mecanismo de defensa y como hoja de ruta para encontrar fallos críticos, por lo que compara estas herramientas con un martillo: imprescindible para construir, pero también, de forma inevitable, un arma.

Los profesionales recurren a modelos sin restricciones para evitar las barreras

Paolo Stagno, director de tecnología en Crowdfense, coincide con Dowd y considera que las compañías de IA "tratan a sus clientes como niños que necesitan niñera" con sus programas de verificación. Su equipo utiliza modelos de código abierto ejecutados en local para tareas de ingeniería inversa, evitando los modelos en la nube a la hora de buscar vulnerabilidades o construir exploits, precisamente para no filtrar información sensible ni que acabe integrada en futuros entrenamientos.

Ahora bien, no todos los investigadores comparten la misma frustración. Giuseppe Cali, especializado en la búsqueda de fallos de día cero, asegura que las barreras no afectan a su trabajo porque no utiliza IA para tareas ofensivas, solo para ingeniería inversa inicial o para construir herramientas de apoyo. "Quiero seguir siendo yo quien descubra y explote el fallo", afirmó, y añadió que eso no cambiaría aunque se eliminaran todas las restricciones.

Un investigador de una empresa de componentes para smartphones, que pidió mantener el anonimato, aseguró que su compañía no forma parte del programa de verificación de Anthropic, por lo que sus herramientas resultan casi inútiles para detectar vulnerabilidades debido a la rigidez de las barreras. Chris Thompson, consejero delegado de RemoteThreat, añadió que estas restricciones son además inconsistentes y cambian de un día para otro, lo que obliga a los equipos a "negociar con el modelo" en lugar de centrarse en el propio análisis de seguridad. Según Thompson, esta situación empuja a investigadores responsables hacia modelos chinos de código abierto como GLM, que pueden ejecutarse en local sin ningún tipo de verificación ni limitaciones de uso.

Thompson pidió a las grandes compañías de IA que, en lugar de endurecer aún más sus restricciones, abran sus programas de acceso responsable y sancionen a quienes abusen de ellos. En su opinión, de lo contrario, los equipos de defensa perderán la carrera frente a atacantes que ya se preparan para lanzar ataques automatizados a una escala nunca vista.

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!