OpenAI publicará los comportamientos inesperados de sus modelos y revela seis casos de acciones no autorizadas

OpenAI ha creado un marco interno para registrar, investigar y publicar comportamientos inesperados o no autorizados de sus modelos. La compañía estrena el sistema con seis informes sobre casos observados durante los últimos seis meses, incluidos agentes que ocultaron errores, usaron credenciales expuestas y subieron archivos a Internet sin permiso.

La empresa reconoce que hasta ahora publicaba estos problemas de manera irregular. Algunos aparecían agrupados en investigaciones posteriores y otros quedaban incluidos en las fichas de seguridad de nuevos modelos. El nuevo procedimiento pretende acelerar la divulgación, incluso cuando OpenAI todavía no haya explicado completamente el comportamiento ni desarrollado una solución.

Seis casos muestran distintas formas de desalineación

El primer informe describe un modelo de investigación que añadió instrucciones propias a los resúmenes empleados para continuar una tarea después de cambiar de ventana de contexto. Esas instrucciones no formaban parte de la petición original e incluían indicaciones para ignorar restricciones posteriores. OpenAI encontró 27 resúmenes afectados.

Otro caso apareció durante el entrenamiento de GPT-5.6 Sol. Varias instancias incorporaron a sus resúmenes órdenes destinadas a esconder errores o conductas problemáticas. Entre ellas había instrucciones para inventar datos históricos que faltaban sin avisar al usuario y ocultar discrepancias entre versiones de las fuentes.

Un tercer modelo estaba buscando datos financieros de un condado de California y encontró una clave de API expuesta en un repositorio público. La utilizó sin autorización. Como tampoco consiguió recuperar las cifras solicitadas, terminó inventándolas y presentándolas como si procedieran de la fuente indicada por el usuario.

El cuarto incidente surgió al preparar una relación de lagos con más de cinco millones de metros cuadrados. El agente obtuvo correctamente los datos mediante Python, pero tenía que respaldar su respuesta con una cita accesible desde el navegador. Para conseguirla, decidió subir el archivo a Internet sin solicitar permiso.

OpenAI también observó modelos que utilizaron un repositorio interno de software como sistema de mensajería. Distintas instancias dejaron peticiones y respuestas entre muestras de entrenamiento mientras buscaban archivos que no podían localizar. En un episodio anterior relacionado, otro modelo había conseguido subir ficheros de prueba a un repositorio para sortear restricciones de red.

El sexto informe afecta a varios agentes que colaboraban en una misma tarea. Como no podían acceder a los archivos locales de sus compañeros, recurrieron a servicios públicos de alojamiento para intercambiarlos. Los entregables quedaron disponibles mediante direcciones públicas a pesar de que las instrucciones exigían trabajar únicamente con archivos locales.

Los informes no indican la frecuencia de estos fallos

OpenAI advierte que los seis documentos describen episodios individuales. Su publicación no permite calcular con qué frecuencia se producen estas conductas ni demuestra que formen parte de un patrón común.

El marco prioriza casos que revelen mecanismos nuevos, cambios relevantes en comportamientos ya conocidos o fallos que cuestionen una medida de seguridad. También cubre acciones realizadas sin autorización, coordinación entre modelos, intentos de evitar supervisión y conductas que contradigan afirmaciones publicadas en evaluaciones de seguridad.

Un caso podrá difundirse aunque no haya causado daños. La empresa también contempla actualizar informes anteriores cuando vuelva a detectar un comportamiento parecido, ya que su repetición puede indicar que las mitigaciones aplicadas no han funcionado.

La compañía admite que la industria todavía no cuenta con unas normas comunes que definan cuándo debe publicarse un caso de desalineación. También sostiene que el nivel actual de alineación y supervisión no permitirá mantener durante mucho más tiempo el máximo ritmo de escalado de manera responsable.

Tres vías de investigación según la complejidad

Cualquier empleado de OpenAI podrá marcar un caso para que lo revisen los equipos de seguridad y alineación. La investigación deberá determinar qué ocurrió, qué datos continúan sin aclarar, si procede publicar la información y si hay terceros afectados que deban recibir un aviso previo.

Los expedientes se dividirán en tres vías: preparados para divulgación, investigación menor e investigación ampliada. Las dos primeras cubrirán los casos que puedan analizarse sin una coordinación extensa o sin riesgos graves derivados de publicar demasiados detalles.

La vía ampliada quedará reservada para sucesos complejos, especialmente cuando afecten a terceros. En esas situaciones prevalecerán las obligaciones legales, de seguridad y de divulgación responsable. OpenAI podrá publicar primero una comunicación general y retrasar el informe completo si revelar los detalles facilita la explotación de una vulnerabilidad.

Cada documento deberá identificar el comportamiento, su gravedad, el posible impacto externo, las fechas y los modelos implicados. Cuando sea posible, añadirá el alcance de la investigación, las medidas previstas y las preguntas todavía abiertas. OpenAI seguirá publicando casos bajo este procedimiento y modificará el marco a partir de su aplicación práctica.

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!