Facebook está entrenando una IA para detectar videos falsos
Los llamados Deepfakes están creciendo y las redes sociales tienen que estar listas para identificarlos
Los Deepfakes son videos falsos en los que, principalmente, se han visto involucradas celebridades de diversos ámbitos en los que parecen haber dicho o hecho algo que en realidad no sucedió. Con esta tecnología avanzado y haciendo más difícil reconocer las imágenes falsas , Facebook está entrenando una inteligencia artificial capaz de detectarlas.
Las herramientas para hacer Deepfakes ya están disponibles en línea incrementando el riesgo de que a través de estos videos se llegue a difundir información errónea o peligrosa. Por ejemplo, hacen posible hacer parecer que un político dijo algo o participó en situaciones cuestionables cuando en realidad ello no sucedió.
Aunque, según un informe de la firma de seguridad cibernética DeepTrace Labs de 2019, hasta la fecha estos videos falsos no se han utilizado en ninguna campaña de desinformación, la misma empresa también alertó que su uso y desarrollo iba en aumento. Esto despertó la preocupación de que las redes sociales lleguen a llenarse de este tipo de contenido.
Para abordar el problema y ayudar a luchar contra las falsificaciones , Facebook decidió entrenar una inteligencia artificial a través de una base de datos que incluyó más de 100 mil clips producidos con más 3 mil actores y diversas técnicas de intercambio de caras.
De acuerdo con la compañía si bien los Deepfakes actualmente no presentan un gran problema, decidieron adelantarse antes de que este tipo de videos estén disponibles de manera más importante en el internet.
En ese sentido Facebook anunció al ganador de su Deepfake Detection Challenge en el que participaron más de 2 mil proyectos de detección de videos falsos. El mejor modelo fue el de la empresa de mapeo Mapbox que logró con un 65% incluso ante pruebas complicadas como personas que dan tutoriales de maquillaje o videos en los que se pega texto y formas sobre las caras de las personas.
Los algoritmos ganadores de este desafío se lanzarán como código abierto para ayudar a otros investigadores. Sin embargo Facebook aclaró que no planea usar ninguno de los modelos ganadores en su sitio debido a que el porcentaje de error aún es alto, por lo que seguirá desarrollando su propia tecnología .
La compañía considera que una buena opción para hacer más precios los sistemas de detección sería enfocarse en las transiciones entre cuadros de video pues, incluso las falsificaciones de muy alta calidad, tienen algunos parpadeos entre cuadros, detalle que los humanos son buenos detectando a diferencia de la inteligencia artificial.
también sugiere que la detección de falsificaciones puede mejorarse mediante el uso de técnicas que van más allá del análisis de una imagen o video en sí, por ejemplo al evaluar su contexto o procedencia. Especialmente tomando en cuenta que el 96% de las falsificaciones están relacionadas con pornografía, es decir que las caras de otras personas se pegan sobre las de actores porno.
Finalmente podemos ver que los resultados por identificar Deepfakes , aunque prometedores, muestran que aún queda mucho trabajo por hacer.