A raíz de la lectura en clase de inglés de 1ºBACH del artículo «How can humans an AI work together to detect deepfakes?» hemos hecho nuestro propio análisis en clase para comprobar si la inteligencia humana (IH), es decir, las personas, somos capaces de detectar bulos en forma de deepfakes mejor, peor o igual que la inteligencia artificial (IA).
Os compartimos el trabajo traducido al castellano.
Hoy en día, en la era digital, los deepfakes son un desafío cada vez mayor en la lucha contra la desinformación y la manipulación de contenido. Los deepfakes son videos, imágenes o incluso la voz de alguien, generalmente personas famosas, que se manipulan de una forma súper realista para hacer parecer que dijeron o hicieron algo que en realidad no hicieron. La finalidad de este tipo de contenido falso es engañar a la gente para que crea algo que nunca sucedió.
Los deepfakes se crean usando inteligencia artificial, que con el tiempo ha mejorado tanto que ahora puede generar imágenes tan naturales que son muy creíbles para la gente. Esto afecta especialmente a los más jóvenes o a los más mayores, que suelen ser más fáciles de manipular. Por eso, con el aumento de las imágenes generadas por IA, detectar las imágenes o vídeos manipulados es cada vez más crucial.
En este artículo del IES David Buján, se muestran varios ejemplos de deepfakes que se comparten en redes sociales como TikTok.
Otro ejemplo son las imágenes falsas de Donald Trump siendo arrestado, que circularon por internet en 2023. Este artículo de la BBC muestra ejemplos de estas imágenes con pistas para identificar por qué eran falsas.
En nuestra clase de inglés hicimos un estudio para ver cuán bien los humanos pueden identificar imágenes y detectar deepfakes, y comparar los resultados con el desempeño de las personas y de los modelos de IA del Experimento 2 del estudio «How can humans and AI work together to detect deepfakes?« del equipo de Matthew Groh.
Para ello, probamos la habilidad de los humanos para distinguir entre fotos generadas por IA y fotos reales usando la misma página web que en el estudio mencionado, Detect Fakes. Mostramos a los 25 estudiantes de nuestra clase 10 imágenes que consistían en una mezcla de fotos reales y generadas por IA. La web pedía clasificar cada imagen como real o falsa, y anotamos cuántas respuestas correctas dio cada persona para analizar los resultados.
Capturas la página web Detect Fakes. ¿Puedes adivinar si la imagen es real o falsa? (la respuesta está al final del artículo)
El gráfico a continuación muestra los resultados sobre la distribución de respuestas correctas (imágenes correctamente detectadas como reales o falsas) de los participantes de nuestra clase.
La precisión de respuesta promedio entre los estudiantes de nuestra clase fue de 6.8 sobre 10 (68%). Comparando esto con los resultados del modelo de IA (65%) en el experimento 2 del estudio de Matthew Groh y su equipo, los participantes reclutados (que fueron seleccionados para el estudio) tuvieron un 66% de precisión, mientras que los participantes no reclutados (que usaron el sitio web sin ser parte del estudio) tuvieron un 72% de precisión.
Nuestros hallazgos sugieren que, aunque los humanos son buenos identificando los deepfakes, la precisión varió de persona a persona. Los resultados de los humanos en el estudio mencionado fueron un poco mejores que los de nuestra clase, pero en general los humanos superaron a la IA.
En conclusión, los humanos demostraron una gran capacidad para detectar imágenes generadas por IA, superando a menudo a los modelos de detección de IA. Sin embargo, la precisión varió entre individuos, lo que sugiere que la experiencia y la atención a los detalles pueden ayudar a detectar mejor los deepfakes.
En el estudio de Matthew Groh y su equipo, los humanos fueron más precisos en ciertos casos, como la identificación de deepfakes de figuras políticas o videos manipulados de alta calidad, mientras que la IA fue más rápida y efectiva en casos como la detección de deepfakes de imágenes borrosas o invertidas.
Por lo tanto, combinar las habilidades de los humanos y la IA para evaluar imágenes y videos podría ser la mejor estrategia para detectar deepfakes y prevenir la desinformación en la sociedad.
Tras leer el artículo y hacer este estudio en nuestra clase, creemos que es muy importante que tanto los estudiantes como la sociedad aprendan a detectar deepfakes, porque no solo pueden afectar a personas famosas, sino también a cualquier persona, y se pueden compartir para engañar a la gente, difundir información falsa y hacer que sea difícil confiar en lo que vemos en internet. Si sabemos cómo detectar estos videos o imágenes falsos o manipulados, será más difícil caer en noticias falsas o estafas. Además, si aprendemos a pensar de forma más crítica sobre lo que vemos en las redes sociales desde jóvenes, podremos evitar compartir imágenes o videos falsos que incluso pueden afectar a personas que conocemos, y ayudar a frenar la desinformación antes de que se convierta en un problema aún mayor.
(***) La imagen de las dos mujeres en el parque es falsa y la imagen de la astronauta es real. ¿Acertaste?
Los trabajos seleccionados para hacer este artículo son los de las alumnas Ana Diaz y Nicole Segovia de 1ºBach.
Referencias
(Artículo científico original) Groh, M., Epstein, Z., Firestone, C., & Picard, R. (2022). Deepfake detection by human crowds, machines, and machine-informed crowds. Proceedings of the National Academy of Sciences, 119(1), e2110013119. https://doi.org/10.1073/pnas.2110013119
(Artículo adaptadado para estudiantes) Groh, M., Epstein, Z., Firestone, C., & Picard, R. (2024, enero). How can humans and AI work together to detect deepfakes? Science Journal for Kids. Recuperado de https://www.sciencejournalforkids.org/wp-content/uploads/2024/01/deepfake_article.pdf
Devlin, K., & Cheetham, J. (2023, March 24). Fake Trump arrest photos: How to spot an AI-generated image. BBC News. https://bbc.com/news/world-us-canada-65069316
IES David Buján. (2024, 11 de marzo). Las IAs y las redes sociales: una asociación peligrosa. AulaCheck. Recuperado de https://aulacheck.ibercivis.es/2024/03/11/las-ias-y-las-redes-sociales-una-asociacion-peligrosa/
INCIBE. (s.f.). Deepfakes. Instituto Nacional de Ciberseguridad. Recuperado de https://www.incibe.es/aprendeciberseguridad/deepfakes
¡Hola IES José Luis Sampedro!
Vuestro estudio realizado en clase demuestra una gran iniciativa en la detección de bulos y os permite adquirir un mayor pensamiento crítico. Además, explicáis y comparáis un estudio científico con el vuestro y sacáis unas buenas conclusiones de los resultados.
¡Enhorabuena! Seguid así.
Muchas gracias por vuestra aportación en MásAulacheck.