Meta lanzó Content Seal, una nueva herramienta basada en web diseñada para identificar imágenes y videos creados con su modelo de generación Muse Image, verificando la presencia de marcas de agua invisibles que, según la compañía, permanecen intactas sin importar recortes, compresión, redimensionamiento o capturas de pantalla del contenido.
Las limitaciones que presenta esta nueva herramienta de detección
Pese a su promesa de resistencia, el enfoque de marca de agua utilizado por Muse Image resulta incompatible con métodos ya establecidos como SynthID de Google y las Credenciales de Contenido de C2PA. Durante pruebas recientes realizadas por distintos medios especializados, la herramienta de detección tampoco logró identificar imágenes creadas o editadas con versiones anteriores de los modelos de IA de la propia Meta.
Esta herramienta llega después de que el Consejo de Supervisión de Meta expresara preocupación a principios de este año por la implementación inconsistente de marcas de agua digitales en el contenido generado por sus propias herramientas de inteligencia artificial, presionando a la compañía para que tomara medidas más serias contra la propagación de contenido engañoso generado por IA.
Restricciones de uso y planes futuros para esta tecnología
Los usuarios de la herramienta también enfrentan límites diarios de verificación, alcanzando avisos una vez superado su umbral permitido de consultas. Meta confirmó además que planea extender eventualmente las marcas de agua de Content Seal hacia contenido de video, mientras continúa desarrollando por separado su próximo modelo de generación audiovisual conocido como Muse Video.