Home Empresas OpenAI incorporará marcas de agua invisibles al texto generado por ChatGPT en...

OpenAI incorporará marcas de agua invisibles al texto generado por ChatGPT en Europa

La compañía anunció un sistema denominado textGrain, que permitirá identificar mediante una herramienta específica si un texto fue generado por uno de sus modelos. La medida comenzará a implementarse en la Unión Europea y responde a los requisitos de transparencia establecidos por la legislación europea sobre inteligencia artificial.

OpenAI anunció este lunes que comenzará a incorporar una marca de agua invisible en determinados textos generados por ChatGPT y Codex para usuarios de la Unión Europea. El sistema, denominado textGrain, modifica de manera estadística la selección de palabras que realiza el modelo para introducir una señal que no es visible para las personas, pero que puede ser detectada mediante una herramienta específica. La implementación se realizará de manera gradual durante las próximas semanas.

Una señal que no se ve, pero puede detectarse

A diferencia de una marca visible o de un texto añadido al contenido, textGrain funciona sobre el propio patrón de elección de palabras del modelo. Según explicó OpenAI, no incorpora caracteres ocultos, espacios invisibles ni signos de puntuación especiales. La compañía sostiene que el sistema busca mantener la calidad y velocidad de generación del texto, mientras introduce una señal estadística que permite analizar posteriormente su posible origen.

La decisión está vinculada con el Reglamento de Inteligencia Artificial de la Unión Europea (EU AI Act), que establece requisitos de transparencia para los contenidos generados por sistemas de inteligencia artificial. En este marco, OpenAI busca que determinados textos producidos por sus modelos puedan ser identificados de manera legible por sistemas informáticos. La compañía también señaló que su implementación inicial en Europa permitirá evaluar el funcionamiento de la tecnología en situaciones reales antes de considerar una expansión más amplia.

Una herramienta que tendrá límites

OpenAI aclaró que una marca de agua no permite determinar quién utilizó la inteligencia artificial, cuánto intervino una persona en la elaboración de un texto, quién posee los derechos sobre él ni si el contenido es correcto. Además, la detección puede resultar menos confiable en textos muy breves o después de modificaciones importantes, como una reescritura, una traducción o una reformulación sustancial. Por ese motivo, el detector no estará disponible inicialmente para el público general: su acceso quedará limitado a investigadores y organizaciones especializadas aprobadas por la compañía.

En paralelo, OpenAI habilitará desde este lunes la posibilidad de activar voluntariamente el sistema de marcas de agua para determinados modelos utilizados a través de su API, para clientes de cualquier parte del mundo. La empresa también anticipó que planea publicar textGrain como código abierto, con el objetivo de que otros investigadores puedan estudiar y mejorar la tecnología.

Salir de la versión móvil