Las IAs y las redes sociales: una asociación peligrosa

En los últimos años las IA han avanzado considerablemente en relación al nivel de realismo. Recientemente se han popularizado vídeos casi indistinguibles de la realidad, lo que provoca un aumento significativo de bulos y por lo tanto en gente que se los cree.

Hace menos de un año se viralizó una canción en la famosa red social tiktok, llamada NostalgIA. Es una canción hecha completamente por la IA utilizando la voz de varios cantantes famosos como Bad Bunny, Justin Bieber o J Balbin. Mucha gente llegó a opinar que la canción era “mucho mejor que toda la discografía de algunos cantantes”. La canción tuvo tanto alcance que el mismo Bad Bunny llegó a pronunciar su enfado en su grupo de WhatsApp, incitando a irse del grupo “a todos a los que le guste esa mierda de canción”.

Este es solo un ejemplo de cómo las IAs están aumentando la desinformación que circula por las redes sociales. A continuación, analizamos dos de los temas que consideramos más importantes respecto a este problema emergente en los últimos años:

IA EN LAS REDES SOCIALES: los peligros del DeepFake

Un ejemplo relacionado con el anterior es el de la cuenta de tiktok @fake_dicaprio, que se dedica a publicar vídeos creados completamente con IA haciéndose pasar por el famoso actor Leonardo Dicaprio. Esto es lo que se llama deepfake. «Deepfake es la manipulación digital de una foto o vídeo para retratar un evento que nunca sucedió o retratar a una persona haciendo o diciendo algo que nunca hizo o dijo.”, y esta cuenta es solo un ejemplo de las muchas otras que se dedican a hacer estas cosas.

«Deepfake es la manipulación digital de una foto o vídeo para retratar un evento que nunca sucedió o retratar a una persona haciendo o diciendo algo que nunca hizo o dijo.”

Es verdaderamente preocupante ver la cantidad de seguidores que tiene y más aún es saber que la mayoría de ellos piensa que de verdad es el actor.

Como se puede ver sus videos rondan el millón de visualizaciones, y la mayoría de comentarios son preguntando si es verdad o IA, ya que les resulta imposible diferenciarlo a simple vista. Aunque este es solo un ejemplo de las miles de cuentas y de videos que rondan por internet con un nivel de realismo que llega a ser preocupante.

CHATGPT y sus alucinaciones

ChatGPT se ha convertido en una de las Inteligencias Artificiales más populares y capaces que hemos probado en los últimos tiempos, ya que es capaz de generar contenido sobre cualquier tema de manera autónoma y de forma bastante detallada. No obstante, cuando le preguntas algo y no sabe qué responder, lo que hará es inventar una respuesta (por eso su uso, sin ser detectado, es limitado); esto se conoce como alucinación de IA.

Un ejemplo de una alucinación ocurrió en un tribunal de Nueva York. Un abogado presentó un extenso escrito que citaba múltiples casos legales para respaldar su argumentación. Resulta que había usado ChatGPT para escribir todo el informe y no verificó el trabajo de la IA, por lo que ésta se inventó todas sus citas de apoyo.

Hay muchas más situaciones que han ocurrido por el uso de esta herramienta, y es que, no solo los adultos la usan, sino también universitarios, que llenan las redes constantemente con mensajes de agradecimiento por la aparición de esta IA que les hace o les ayuda con sus tareas académicas y trabajos: “A mis papás y a ChatGPT”. “Estoy por poner en los agradecimientos del TFG al ChatGPT porque me está echando un buen cable”.

La IA y la educación

En el ámbito educativo, muchos profesores no están de acuerdo con el uso de esta IA, pero otros creen que debería formar parte de la educación en vez de prohibirla. Entre ellos, Senén Barro, exrector de la Universidad de Santiago y catedrático de Ciencias de la Computación: “No hay que prohibir la inteligencia artificial. Quienes somos profesores tenemos que aprenderla a usar para integrarla en nuestra docencia, porque los alumnos la van a tener que usar sí o sí en su ejercicio profesional. La van a usar igual con nosotros o sin nosotros. Para mí es una herramienta muy útil en mi labor docente”, argumentó. Y añadió: “El sistema educativo sigue muy anclado en la memorización, la redacción… y eso, o lo cambiamos, o no tiene sentido ninguno porque la máquina lo hace mejor que el alumno medio. Nos va a obligar a cambiar. La única forma de llegar a la enseñanza personalizada son los asistentes de aprendizaje”.

“No hay que prohibir la inteligencia artificial.» Senén Barro, catedrático de Ciencias de la Computación.

Conclusión

Las IAs son herramientas muy útiles en nuestro día a día, pero cada vez es más difícil reconocer lo que hacen de lo que hacemos los humanos. Antes de creernos cualquier tipo de información, es importante tener en cuenta todo esto e intentar verificar si la información que nos están dando es real o no.

Bibliografía