OpenAI comenzará a implementar una marca de agua invisible en los textos generados por ChatGPT dentro de la Unión Europea. La tecnología, denominada textGrain, modifica de manera estadística las elecciones de palabras realizadas por el modelo para introducir una señal que puede ser identificada mediante herramientas especializadas.
Una medida relacionada con la Ley de IA de la UE
La implementación responde a los requisitos de transparencia establecidos por la AI Act de la Unión Europea, que exige que determinados contenidos generados mediante inteligencia artificial puedan ser identificados de manera legible por máquinas. El despliegue comenzará durante las próximas semanas para usuarios elegibles de ChatGPT y Codex en la región.
La marca no será visible para los usuarios
A diferencia de una marca tradicional, textGrain no añade caracteres ocultos, espacios invisibles ni signos de puntuación extraños. La señal se encuentra integrada en las elecciones de palabras realizadas durante la generación del texto. OpenAI afirma que sus pruebas mostraron un rendimiento comparable o superior al de otros sistemas que evaluó, incluido SynthID para texto, aunque reconoce que ningún sistema de detección es completamente fiable.
La compañía también habilitará desde ahora una opción para que clientes de su API de todo el mundo puedan activar voluntariamente el marcado en determinados modelos, mientras que la función permanecerá desactivada por defecto. Las herramientas para detectar la marca de agua tampoco estarán disponibles públicamente de inmediato, ya que OpenAI limitará inicialmente su acceso a investigadores y organizaciones especializadas.