Meta anuncia etiquetado de fotos generadas por IA

Nick Clegg, presidente de Asuntos Globales en Meta, anunció una serie de medidas destinadas a abordar la creciente presencia de contenido generado por inteligencia artificial (IA).

Con el objetivo de proporcionar transparencia, Clegg dijo que Facebook ya no solo etiquetará las imágenes diseñadas con Meta AI, sino que el etiquetado se extiende para todo el contenido que haya sido creado con cualquier plataforma.

Imagen: especial

“El propósito es asegurar que los usuarios tengan la máxima cantidad de transparencia y la máxima cantidad de información disponible para ellos con relación al contenido sintético”, explicó Clegg en entrevista con EL UNIVERSAL.

De acuerdo con el directivo, en los próximos meses, las imágenes creadas con la plataforma contarán con la etiqueta “Imaginado con IA”. El esfuerzo es valioso si se considera que diversas personas no logran diferenciar las imágenes creadas por algoritmos, además de que las IA crean representaciones cada vez más realistas.

Leer también: Cómo dejar de recibir llamadas y mensajes SPAM en tu celular

Para abordar este problema, Meta utilizará marcadores visibles en las imágenes, marcas de agua invisibles y metadatos incrustados en los archivos de la imagen. Todas estas herramientas ayudarán a una fácil identificación en Facebook, Instagram o Threads.

Imagen: Unsplash

“En Meta tomamos la delantera en la industria. Siempre que sepamos que lo que se está compartiendo en Facebook, Instagram o Threads ha sido generado por IA, si recibimos una señal confiable de que ha sido generado por IA, aplicaremos una etiqueta para informar a los usuarios. De este modo, resultará más fácil distinguir entre contenido sintético y no sintético”, explicó quien hasta hace algunos años fuera miembro del Parlamento del Reino Unido.

Optimismo respecto a los desafíos de la IA

Clegg se mostró optimista de que cada vez más compañías, grandes o pequeñas, nuevas o establecidas, creadoras de contenido o difusoras del mismo, desarrollen capacidades para diferenciar el contenido sintético.

De acuerdo con un comunicado firmado por él, Meta ha constatado por medio de foros como Partnership on AI que tanto los metadatos como las marcas invisibles se ajustarán a las mejores prácticas de las empresas del sector.

Leer también: ¿Cómo activar el modo enamorada de Alexa?

También se anuncia que Meta está desarrollando herramientas para etiquetar imágenes de otras empresas como Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock, como se adelantó más arriba en esta entrevista.

“Pero debo enfatizar que la tecnología aún evoluciona, por lo que nuestro enfoque también tendrá que evolucionar. Por ejemplo, la habilidad de compartir marcas invisibles y señales de detección para imágenes y fotos sintéticas está mucho más desarrollada que la habilidad para desarrollar lo mismo en video o para audio. Es en lo que todos trabajamos”, indicó Clegg.

Imagen: especial

Asimismo, se añadirá una función a Facebook para que los usuarios informen cuando compartan un video o audio generado por IA, para identificarlo como sintético.

“Por supuesto que no garantizamos detectar cada pieza de contenido que se haya generado a partir de IA. De hecho, tenemos que ser muy claros: no lo lograremos porque, en primer lugar, no hay tecnología, no hay física, no hay ingeniería lo suficientemente madura para la industria para poder compartir señales invisibles de marca de agua cuando se trata de contenido y video. En segundo lugar, los actores maliciosos no están incentivados para jugar con nuestras reglas. Y en tercer lugar, el modo en que las personas usan este contenido va a cambiar muy rápidamente. Creo que mucho contenido en línea en los próximos años será híbrido: una mezcla de contenido sintético y no sintético”, concluyó Clegg sobre el tema.

En la siguiente entrega de esta entrevista, el presidente de Asuntos Globales en Meta abundó sobre los esfuerzos de Meta en seguridad y transparencia en un año de elecciones en varias partes del mundo, lo que incluye México.

Leer también: Cómo enviar un mensaje anónimo de WhatsApp

Recibe todos los viernes Hello Weekend, nuestro newsletter con lo último en gastronomía, viajes, tecnología, autos, moda y belleza. Suscríbete aquí: https://www.eluniversal.com.mx/newsletters