Con el rápido crecimiento de la inteligencia artificial y su integración en diversos productos y servicios, surge una creciente necesidad de que los usuarios comprendan cómo se crea y modifica el contenido digital. En este contexto, Google está trabajando para ofrecer mayor transparencia a través de tecnologías que ayuden a los usuarios a identificar si un contenido ha sido generado por IA o editado mediante herramientas digitales.
Para llevar estos avances al siguiente nivel, Google ha unido fuerzas con la Coalición para la Procedencia y Autenticidad del Contenido (C2PA), como miembro del comité directivo. Esto le ha permitido desarrollar tecnologías de procedencia que aporten claridad sobre cómo se creó y modificó el contenido.
La tecnología de procedencia es clave para proporcionar información precisa sobre cómo se ha generado el contenido, ya sea mediante una cámara, software de edición o herramientas de IA generativa. Esta información es esencial para que los usuarios tomen decisiones informadas sobre el contenido que consumen, lo que fortalece la confianza y mejora la alfabetización mediática.
La participación de Google en la C2PA ha permitido avanzar en la creación de un estándar técnico más robusto, conocido como Content Credentials, que ha alcanzado su versión 2.1. Este estándar es fundamental para asegurar que la procedencia del contenido no pueda ser alterada o manipulada de manera engañosa.
Las nuevas especificaciones técnicas introducidas en la versión 2.1 refuerzan las protecciones contra ataques de manipulación, garantizando que la información adjunta a las imágenes o vídeos permanezca intacta y fiable. Con ello, Google se asegura de que las credenciales de contenido sean más seguras y resistentes a alteraciones, lo que añade una capa extra de confianza.
Durante los próximos meses, Google integrará la versión más reciente de Content Credentials en varios de sus productos clave. En el caso de Google Search, por ejemplo, los usuarios podrán utilizar la funcionalidad “Acerca de esta imagen” para verificar si una imagen ha sido editada o creada con herramientas de IA, siempre que contenga metadatos de C2PA. Esta funcionalidad ofrecerá contexto adicional sobre las imágenes encontradas en Google Images, Lens y Circle to Search, lo que permitirá a los usuarios navegar con mayor seguridad y conocimiento.
Además, Google está comenzando a integrar los metadatos de C2PA en su sistema de anuncios. Tal y como informa Google, su objetivo es avanzar en este proyecto y utilizar las señales de C2PA para informar cómo aplicamos políticas clave
Asimismo, se están explorando nuevas formas de transmitir esta información a los espectadores en YouTube, cuando el contenido haya sido capturado con cámaras. Google afirma que anunciará más actualizaciones a este respecto próximamente.
Un aspecto fundamental de estas implementaciones es la validación del contenido frente a la Lista de Confianza de C2PA, un sistema que confirma el origen del contenido. Esto permitirá, por ejemplo, verificar si una imagen fue realmente tomada con un modelo específico de cámara, garantizando así que los datos sean precisos y confiables.
Sin embargo, Google reconoce que establecer la procedencia del contenido sigue siendo un reto complejo que varía según el producto o servicio. No existe una solución única que se pueda aplicar a todos los tipos de contenido online, por lo que la colaboración con otras empresas del sector resulta crucial. A través de su participación en la C2PA, Google está fomentando que más servicios y proveedores de hardware adopten las Content Credentials, con el objetivo de crear soluciones sostenibles e interoperables para toda la industria.
Además, el trabajo de Google con la C2PA complementa su enfoque más amplio hacia la transparencia y el desarrollo responsable de la IA. Como parte de esta estrategia, Google está ampliando la tecnología SynthID, desarrollada por Google DeepMind, que utiliza marcas de agua integradas para identificar contenido generado por IA. Esta herramienta ya se está aplicando en diversas formas de medios, incluyendo texto, audio y vídeo, para garantizar una mayor autenticidad en los productos impulsados por IA.
Por último, Google ha presentado su Secure AI Framework (SAIF) y se ha implicado en varias coaliciones centradas en la seguridad y la investigación en IA.
Foto: generada a través de GPT4
Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *
Δ