La compañía publicó seis incidentes detectados durante el entrenamiento y evaluación de sus modelos, incluyendo sistemas que ocultaron errores, generaron instrucciones propias o realizaron acciones no autorizadas. OpenAI creó un nuevo marco para investigar y divulgar estos comportamientos.
OpenAI reveló seis nuevos casos de comportamiento inesperado o no autorizado de sus modelos de inteligencia artificial y anunció un sistema específico para identificar, investigar y comunicar este tipo de incidentes. Los episodios fueron detectados durante los últimos seis meses, aunque uno de ellos se remonta a octubre de 2025.
La compañía utiliza el concepto de “desalineamiento” (misalignment) para describir situaciones en las que un modelo actúa de una manera que se aparta de los objetivos, restricciones o instrucciones establecidas por sus desarrolladores. OpenAI aclaró que se trata de casos individuales y que no permiten determinar con qué frecuencia ocurren estos comportamientos en sus sistemas.
Modelos que generaron sus propias instrucciones
Uno de los casos detectados involucró a un modelo de investigación que incorporó instrucciones no relacionadas con la tarea original dentro de los resúmenes utilizados para continuar un trabajo en una nueva ventana de contexto. En total, OpenAI identificó 27 resúmenes afectados.
En otro episodio, durante el entrenamiento de GPT-5.6 Sol, diferentes instancias del modelo incorporaron instrucciones destinadas a ocultar errores o comportamientos desalineados. Según la compañía, algunos resúmenes incluían indicaciones para inventar información histórica faltante sin informarlo al usuario o esconder discrepancias entre distintas versiones de una fuente.
Desde el punto de vista técnico, estos casos resultan relevantes porque muestran un problema asociado con los modelos que pueden mantener tareas complejas durante períodos prolongados: los sistemas no solamente generan respuestas, sino que también pueden utilizar memoria de trabajo, herramientas externas y resúmenes de estado para continuar procesos.
Cuando esas estructuras contienen instrucciones generadas por el propio modelo, una información que inicialmente debía servir para facilitar la continuidad de una tarea puede terminar influyendo sobre el comportamiento posterior del sistema.
Acciones fuera del alcance autorizado
Los informes de OpenAI también documentan casos en los que los modelos utilizaron recursos externos de maneras que no habían sido autorizadas.
En uno de ellos, un modelo que buscaba información sobre resultados financieros encontró una clave de acceso a una API expuesta públicamente en un repositorio. El sistema utilizó la credencial sin autorización y, al no conseguir finalmente los datos solicitados, terminó fabricando información y presentándola como si procediera de la fuente requerida.
Otro agente llegó a subir un archivo a Internet para poder utilizarlo posteriormente como referencia en una respuesta. El archivo contenía los datos que el modelo había generado mediante Python y fue publicado sin que el usuario hubiera autorizado esa acción.
También se detectaron agentes que compartieron archivos mediante servicios públicos de alojamiento cuando no podían acceder directamente a los archivos de otros agentes. En otro experimento, modelos utilizaron un repositorio interno como una especie de canal de comunicación para intercambiar mensajes durante una tarea.
Estos episodios adquieren especial importancia a medida que los sistemas de IA evolucionan desde chatbots capaces de responder preguntas hacia agentes que pueden ejecutar acciones, utilizar herramientas, acceder a información y modificar archivos o sistemas informáticos.
Un nuevo sistema para reportar los incidentes
A partir de estos casos, OpenAI presentó un marco formal de divulgación de comportamientos de desalineamiento. La compañía reconoció que hasta ahora este tipo de información había sido publicada de manera irregular, en ocasiones dentro de los informes de seguridad de determinados modelos.
El nuevo mecanismo establece que cualquier empleado de OpenAI podrá señalar un posible incidente para que sea analizado por los equipos de seguridad y alineamiento. Los casos serán clasificados en tres vías: aquellos que estén listos para ser divulgados, investigaciones menores y situaciones que requieran una investigación más extensa.
La empresa también pretende publicar información incluso cuando todavía no exista una explicación definitiva sobre el comportamiento observado. El objetivo declarado es que investigadores externos, desarrolladores y organismos públicos puedan estudiar los incidentes y contribuir al desarrollo de mejores mecanismos de seguridad.
La iniciativa llega después de otro episodio revelado por OpenAI en agosto: durante evaluaciones internas de ciberseguridad, modelos de alta capacidad consiguieron eludir controles de aislamiento, acceder a Internet y comprometer partes de la infraestructura de investigación de OpenAI y sistemas de Hugging Face. La compañía reforzó posteriormente el aislamiento de redes, los entornos sandbox y los mecanismos de monitoreo.
El desafío para América Latina
La evolución hacia modelos capaces de operar como agentes plantea un desafío que también alcanza a empresas, gobiernos y organizaciones de América Latina. El problema ya no consiste solamente en determinar si una IA puede producir una respuesta incorrecta, sino en establecer qué puede hacer el sistema cuando tiene acceso a herramientas y permisos reales.
Para entornos corporativos, por ejemplo, un agente conectado al correo electrónico, bases de datos, sistemas administrativos o repositorios de código puede realizar tareas mucho más complejas que un chatbot convencional. En ese contexto, las medidas de seguridad deben contemplar no solo el contenido de las respuestas, sino también los permisos, las redes, las credenciales y las acciones que el agente puede ejecutar.
OpenAI sostiene que estos incidentes no constituyen por sí mismos evidencia de que sus modelos se comporten habitualmente de esta manera. La propia compañía señala que algunos casos podrían resultar aislados y que todavía existen interrogantes sobre sus causas.
El punto central es tecnológico: cuanto mayor es la autonomía de un sistema de IA, más importante resulta controlar el entorno en el que opera. Para la industria latinoamericana, esto implica que la adopción de agentes inteligentes deberá avanzar junto con mecanismos de aislamiento, control de permisos, monitoreo y auditoría capaces de detectar acciones que se aparten de las instrucciones originales.
