Gracias al formidable desarrollo de la inteligencia artificial (IA) y, en particular, debido a la proliferación de los deepfakes, pronto será imposible distinguir en internet qué es real y qué no.
La posverdad —concepto tan gastado por la academia— finalmente permitió anticipar la llegada de un “infocalipsis” posible, un atinado término acuñado por Schick (2024), el cual responde al propósito de designar la severa crisis de la desinformación generalizada que es posible advertir en internet.
Para disipar los riesgos del “infocalipsis”, la Coalition for Content Provenance and Authenticity (C2PA), organismo creado en 2021 por la Joint Development Foundation, ha propuesto construir colectivamente una norma técnica abierta de extremo a extremo que proporcione a editores, creadores y consumidores formas flexibles y de aceptación voluntaria para comprender la autenticidad y procedencia de los diferentes tipos de mensajes.
Microsoft y Adobe impulsaron el desarrollo de la coalición. Posteriormente se sumaron Arm, BBC, Intel, Truepic y, la semana pasada, Google.
Durante años, Google fue renuente en sumarse a la coalición.
El abrupto cambio se debió a que ese gigante tecnológico cuidadosamente analizó la pertinencia de integrarse a la referida iniciativa para impedir que la norma C2PA pueda afectar los esfuerzos que ha venido realizando para proporcionar información sobre IA, como SynthID de Google DeepMind, la herramienta de búsqueda About This Image y las etiquetas de YouTube para contenidos alterados o sintéticos.
En su orden ejecutiva sobre IA, el presidente Joe Biden sugirió la incorporación de una "marca de agua" en las imágenes y videos en internet. Ello seguramente incidió en la decisión de Google de sumarse a la colación.
La C2PA se opone a las iniciativas que pretenden hacer obligatorias las medidas de procedencia en los contenidos.
En cambio, las empresas que participan en la coalición consideran que la mejor manera de combatir la desinformación es ofrecer a los consumidores información contextual sobre cómo se han creado y editado los contenidos.
La coalición considera que la mejor estrategia para enfrentar la desinformación en internet es la procedencia de los contenidos.
La procedencia se refiere a los datos básicos y fidedignos sobre los orígenes de un contenido digital (imagen, video, grabación de audio, documento...). Puede incluir información como quién lo creó y cómo, así como cuándo y dónde se originó o editó. El autor del contenido siempre tiene el control sobre si se incluyen los datos de procedencia. La información añadida puede eliminarse en ediciones posteriores. La procedencia también permite el contenido anónimo.
El viernes 26 de enero, a través de una videoconferencia en línea sobre la pertinencia de la procedencia de contenidos, disertaron los directivos de algunas de las empresas tecnológicas participantes en la coalición, así como congresistas y académicos.
En el programa intervinieron Eric Horvitz (Chief Scientific Officer en Microsoft), los senadores Gary Peters y Rob Portman, Dana Rao (Adobe), Nina Schick, autora del libro Deepfakes: The Coming Infocalypse, San Gregory (WITNESS), Hany Faird (decano asociado y profesor de la Facultad de Ingeniería Eléctrica y Ciencias Computacionales en la Universidad de California en Berkeley), Todd O'Boyle (director de Política Tecnológica en la Cámara de Progreso), Matthew Turek (Defense Advanced Research Projects, DARPA) y Jamie Angus (BBC).
De acuerdo con lo asentado en su sitio de internet, C2PA aborda la prevalencia de la información engañosa en línea mediante el desarrollo de normas técnicas para certificar la fuente y la historia (o procedencia) de los contenidos multimedia. C2PA es un proyecto de la Joint Development Foundation, formado mediante una alianza entre Adobe, Arm, Intel, Microsoft y Truepic.
C2PA unifica los esfuerzos de la Iniciativa para la Autenticidad de los Contenidos (CAI), liderada por Adobe y centrada en sistemas para proporcionar contexto e historia a los medios digitales, y el Proyecto Origin, una iniciativa encabezada por Microsoft y la BBC que aborda la desinformación en el ecosistema de las noticias digitales.
A través de C2PA se pretende establecer un estándar de etiquetado en internet, el cual permitirá identificar quién creó una determinada imagen o video, cuándo y cómo fue creada, proporcionando además información sobre la credibilidad de la fuente.
Se pretende que las especificaciones C2PA den confianza a los usuarios de internet sobre la autenticidad de los contenidos
Las especificaciones están diseñadas para permitir la adopción global y voluntaria de técnicas de procedencia digital a través de la creación de un rico ecosistema de aplicaciones habilitadas para la procedencia digital para una amplia gama de individuos y organizaciones, al tiempo que se cumplen los requisitos de seguridad y privacidad apropiados, así como las consideraciones de derechos humanos.
Es importante destacar que las especificaciones C2PA no proporcionan juicios de valor sobre si un determinado conjunto de datos de procedencia es "verdadero", sino simplemente si la información de procedencia puede verificarse como asociada al activo subyacente, correctamente formada y libre de manipulación.
Meta está creando nuevas herramientas para identificar metadatos C2PA en imágenes publicadas en Facebook, Instagram y WhatsApp. El objetivo es conseguir que las etiquetas se apliquen automáticamente a las imágenes generadas por IA en las plataformas.
OpenAI anunció que añadirá metadatos C2PA a las imágenes creadas con ChatGPT y la API del modelo DALL-E 3.
Leica incorporó en sus cámaras la capacidad de añadir metadatos de autenticación C2PA en sus imágenes.
Si las especificaciones C2PA consiguen establecer un mecanismo que proporcione certeza y faciliten la verificabilidad de los contenidos en internet, los riesgos del infocalipsis podrían diluirse.
De lo contrario, debemos prepararnos para presenciar el colapso definitivo de internet.
