Por qué todo el mundo habla de la prohibición de 'deepfake' de Facebook
Red social para eliminar videos modificados por inteligencia artificial de sus plataformas
Facebook CEO Mark Zuckerberg
Josh Edelson / AFP / Getty Images
Facebook ha anunciado planes para eliminar cualquier video manipulado con inteligencia artificial (IA) de sus plataformas de redes sociales antes de las próximas elecciones presidenciales de EE. UU.
Los videos, conocidos como deepfakes, se modifican para que parezcan reales y se ha demostrado que son muy convincentes y difíciles de desacreditar en línea.
en un entrada en el blog Esta semana, Facebook admitió que los deepfakes presentan un desafío significativo para la tecnología y los sitios de redes sociales, pero prometió abordar todo tipo de medios manipulados.
¿Qué es un deepfake?
Los deepfakes son videos en los que se ha utilizado la inteligencia artificial para superponer el rostro de una persona al cuerpo de otra.
La controvertida práctica llegó a los titulares por primera vez en 2017, cuando los usuarios de Internet publicaron videos pornográficos con imágenes de celebridades femeninas como Taylor Swift y Katy Perry.
La mayoría de los sitios que albergan los videos posteriormente eliminaron el contenido y los prohibieron en sus plataformas, pero se han seguido difundiendo en línea imágenes falsas con figuras de alto perfil de una variedad de campos diferentes.
Si bien estos videos aún son raros en Internet, presentan un desafío significativo para nuestra industria y la sociedad a medida que aumenta su uso, escribe Monika Bickert, vicepresidenta de gestión de políticas globales en Facebook, en la publicación del blog.
¿Por qué Facebook los prohíbe?
El gigante de las redes sociales, que también es dueño de Instagram, se ha comprometido a eliminar los videos manipulados si no era obvio para una persona promedio que fueron editados, o si dan una falsa impresión de que el sujeto del video ha dicho o hecho algo. que no lo han hecho.
Hay personas que se involucran en la manipulación de los medios para engañar, advierte Bickert en el blog.
Prohibir los videos deepfake es parte de los intentos de Facebook de adelantarse a una ola de nuevos medios y contenido engañoso que se espera que se comparta en el período previo a las elecciones en los EE. UU. En noviembre.
¿Y la reacción?
Algunos críticos argumentan que la nueva política de Facebook no va lo suficientemente lejos. Por ejemplo, la prohibición de deepfakes no se aplicará a los videos que se consideren parodias o sátiras.
La red social fue criticada el verano pasado por negarse a eliminar un video viral de la presidenta de la Cámara de Representantes de los Estados Unidos, Nancy Pelosi, que fue manipulado para que pareciera que estaba arrastrando las palabras como si estuviera borracha.
En una declaración a Reuters esta semana, Facebook dijo: El video manipulado de la portavoz Pelosi no cumple con los estándares de esta política y no sería eliminado. Solo se eliminarán los videos generados por inteligencia artificial para representar a personas diciendo cosas ficticias.
También se permitirán las llamadas falsificaciones superficiales, videos hechos con herramientas de edición convencionales y no editados por IA.
Hasta la fecha, no ha habido ejemplos importantes de carga de contenido deepfake en plataformas de Facebook que rompa las nuevas reglas. Como El guardián señala, los ejemplos más dañinos de medios manipulados en los últimos años han tendido a crearse utilizando herramientas sencillas de edición de vídeo.
Pero el científico informático William Tunstall-Pedoe, cuya empresa de inteligencia artificial Evi inventó la tecnología detrás de Alexa de Amazon, dijo a la BBC que Facebook merecía crédito por tratar de abordar el área difícil.
El hecho de que el video sea falso y tenga la intención de inducir a error es la clave para mí, dijo. No es relevante si se utilizan técnicas de IA sofisticadas o técnicas menos sofisticadas.
¿Por qué Facebook está preocupado por las elecciones?
La multinacional todavía está lidiando con las consecuencias de haber sido acusada de permitir la propagación de desinformación durante las elecciones presidenciales de 2016 y las elecciones intermedias de Estados Unidos de 2018.
Y la reputación de Facebook se ha visto afectada aún más por su participación en el escándalo de recolección de datos de Cambridge Analytica y las controversias sobre la publicidad política dirigida.
La presión resultante de legisladores, periodistas y activistas para tomar medidas enérgicas contra la difusión de información engañosa o falsa puede ser un factor importante en la nueva prohibición de los deepfakes.
