El Impacto de los “Deepfakes” en nuestra sociedad y cómo combatirlos

En la actualidad, el uso de la tecnología es algo cotidiano que abarca casi todos los aspectos de nuestras vidas, dicho uso de tecnología nos hace avanzar a pasos agigantados en el desarrollo de nuestras actividades, ya que nos presenta un sinnúmero de funcionalidades y ayudas.  No obstante, tal uso de la tecnología plantea ciertos desafíos éticos y sociales; pues, con un mal manejo, se pueden producir severas afectaciones a  nuestra sociedad, tal como sucede con los famosos  “deepfakes”, los cuales justo ahora emergen como un problema significativo para toda la humanidad, que está impactando de diversas maneras:

• En la política por ejemplo, mediante el socavamiento de la confianza en el proceso electoral y la percepción de falta de idoneidad de los líderes de la sociedad, o mediante la difamación y la manipulación política, lo que conduce a la desestabilización de democracias y el deterioro de las relaciones institucionales. 
• En los medios de comunicación, mediante la proliferación de videos falsos que dificultan poder diferenciar qué es verdadero y qué no lo es, creando así un ambiente generalizado de desconfianza que hace que cualquier contenido audiovisual se vuelva cuestionable.
• En la cultura social, mediante difusión de contenido no veraz que se orienta a dañar la reputación de ciertas personas para que éstas sean segregadas.
• En el comercio por ejemplo, a través de envío de mensajes multimedia falsos, creados con inteligencia artificial, en los que supuestamente un directivo o jefe imparte órdenes a sus subalternos, perjudicando así el correcto desarrollo de las actividades de las organizacionales.

Así las cosas, de repente nos ha aparecido la necesidad de contrarrestar los efectos negativos del “deepfake”, lo cual implica tener que  implementar medidas y estrategias orientadas a neutralizar sus efectos, las que se pueden agrupar así:

• Aspectos técnicos: Se requerirá de inversión en tecnologías para la  detección de “deepfakes”, de esa manera se descubrirán las anomalías en los videos antes que éstos sean visualizados, y se podrá advertir a quien los observa sobre su falsedad y/o manipulación. 
• Aspectos humanos: Será esencial educar a cada persona en este país sobre los “deepfakes”, ilustrando  cómo identificarlos; esto se puede lograr a través de  campañas de concientización y sensibilización, y mediante el entrenamiento en el uso de tecnologías para verificar tanto la fuente de los videos como la veracidad de los mismos.
• Aspectos administrativos: Se requerirá crear políticas organizativas y gubernamentales que busquen combatir los efectos del “deepfake”, por un lado estableciendo protocolos y procedimientos para la aceptación de contenido audiovisual dentro de los procesos internos de una organización, y por el otro mediante la promulgación de normas que no solo penalicen la creación y difusión maliciosa de “deepfakes”, sino que protejan la privacidad de los individuos al evitar el uso indiscriminado de sus videos. 

Por supuesto que adicional a las anteriores medidas, se debe insistir en la responsabilidad que tienen los medios de difusión de contenido audio visual; pues, a ellos se les debe solicitar que participen activamente en el desarrollo de métodos de autenticación de los videos publicados por sus usuarios, y que implementen tecnologías para crear registros digitales de autenticidad de videos, de esa manera se facilitará la rápida verificación del origen, confiabilidad y autenticidad de los mismos.

Y… ¿Qué hacer mientras todo lo anterior sucede?

Dado que los “deepfakes” se presentan como una amenaza inminente para la sociedad, entonces será necesario esforzarnos en mitigar sus impactos negativos, buscando entonces que se garantice  la integridad de la información circulante tanto a nuestro alrededor como en nuestras organizaciones.  

En la actualidad existen varias herramientas informáticas orientadas a  detectar videos falsos o “deepfakes”; tales herramientas utilizan una combinación de técnicas de análisis de video, procesamiento de imágenes y aprendizaje automático para identificar anomalías que puedan indicar manipulación. Aquí hay cuatro de ellas:

• Sensity AI: Esta solución utiliza inteligencia artificial para detectar “deepfakes” y otros tipos de manipulación de medios, usando para ello tecnologías que analizan el contenido visual, que buscan indicios de manipulación y que detectan inconsistencias en el movimiento facial.
• Truepic: Esta herramienta empresarial permite la autenticación de fotos y videos, facilitando detectar alteraciones en diferentes documentos digitales. Además de la detección de falsedad, la solución utiliza tecnología “blockchain” que permite crear un registro digital inmutable que prueba la autenticidad de los medios; ello le permitirá en adelante a los usuarios verificar si un contenido audio visual ha sido o no alterado.
• Microsoft Video Authenticator: Esta es una solución de la muy conocida empresa “Microsoft”, quien desarrolló  la herramienta para analizar cualquier video en tiempo real,  generando así un «índice de confianza», el cual indica la probabilidad de que el video sea genuino y no haya sido alterado.
• Deepware Scanner: es una aplicación móvil gratuita que utiliza algoritmos de aprendizaje automático para detectar “deepfakes” en video. Los usuarios suelen cargar el contenido audiovisual desde sus mismas plataformas haciendo uso de una API, con esto se evitará tener que entrar directamente a la página del desarrollador para subir el video, y se aprovechará la función de poner en cola el trabajo, obteniendo una notificación a un dispositivo móvil cuando el medio haya sido procesado.

Estas son tan solo algunas de las herramientas disponibles en el mercado para detectar deepfakes. Lo importante es dar seguimiento a esta tecnología, ya que es probable que surjan nuevas herramientas y técnicas de detección, con muchas más funcionalidades. 

En conclusión, podemos decir que los “deepfakes” representan para la sociedad una inmensa amenaza que socava la confianza hacia las personas y hacia las instituciones, y que abre una puerta hacia la desinformación y el engaño. Es por tanto menester de todos nosotros contribuir con su control, usando para ello una combinación entre  tecnología avanzada, educación y colaboración por parte de todos los interesados, así será posible mitigar todos sus impactos negativos.