21/07/24

Deepfakes y fakenews: el «lado oscuro» de la Inteligencia Artificial

El doble filo de la Inteligencia Artificial. (Shutterstock)

Estamos en una etapa de redes sociales que democratizan el consumo informativo y permiten a cualquiera que tenga capacidad de ser viral, posicionarse y tener el mismo peso que los antiguos medios de la información” había afirmado el director digital de Editorial Perfil, Agustino Fontevecchia, en el último hackathon (un encuentro de programadores cuyo objetivo es el desarrollo de software) “Hackeando la desinformación”, que organizó la Fundación Perfil junto a la Universidad del Sur de Buenos Aires y de la que participaron numerosas organizaciones y proyectos sobre la temática como el Proyecto Desconfío, Google News Initiative, News Net y la Universidad del Salvador, entre otros.

Sus palabras generan alerta pero describen un mundo en el que ya nos hemos acostumbrado a vivir, en donde las fronteras entre lo físico y lo virtual se han erosionado por completo. En ese contexto, las redes sociales se han transformado en una suerte de péndulo, migrando del optimismo de aquella lejana revolución digital con la Primavera Árabe a este ciberespacio cooptado por discursos de odio, desinformación y granjas de bots/trolls, entre otras problemáticas.

La inmersión de la inteligencia artificial en nuestras vidas, con diferentes plataformas que simplifican un sinfín de procesos con resultados exitosos a la vista pero con procedimientos que desconocemos por completo, ha sido revolucionaria. Su irrupción en nuestras vidas ya es total. En materia de desinformación, también.

¿Hasta donde puede llegar el buen uso de la Inteligencia Artificial? (Amazon)

Hemos conocido deepfakes que, en este mundo de usuarios de consumo pasivo y perezoso, han acrecentado la proliferación de la desinformación y también dificultado la manera de desintoxicar el discurso público de lo falso. La reafirmación de los sesgos solo fortalece este comportamiento humano de compartir lo que empatiza con nuestra ideología, ya sea en materia política, económica, o deportiva.

Al igual que ocurría con la desinformación más “tradicional” y antigua, el reclamo volvió a recaer en las plataformas. En ese sentido, los creadores de ChatGPT lanzaron un detector para identificar deepfakes y con ello combatir la desinformación, abriendo su software para reconocer el contenido creado por DALL-E, logrando identificar correctamente casi el 99% de las imágenes creadas por su generador. El único inconveniente visible es que solo tiene capacidad de reconocer dibujos o imágenes generados por su IA, no siendo compatible con Midjourney, por citar un ejemplo.

Por su parte, el CEO de Meta, Mark Zuckerberg anunció la integración de su chatbot, Meta AI, en todas sus aplicaciones de redes sociales, con Facebook e Instagram, entre sus más populares. Entre otros aspectos, esa integración permitirá a la herramienta generar imágenes y responder preguntas a sus usuarios. La masividad propia de Meta en casi todos los dispositivos móviles del mundo (occidental, por lo menos) traerá consigo más desinformación, será un hecho. La alfabetización mediática será cada vez más trascendente para evitar caer en la desinformación. Eso también es un hecho.

Deepfake. (Adobe)

Inteligencia artificial y desinformación vuelven a alinearse, de manera no intencional pero inevitable. Interrogantes sobre el impacto de una sobre otra surgen constantemente:

  • ¿Cómo evolucionarán las capacidades de la IA para crear contenido falso y qué tecnologías se desarrollarán para contrarrestar esas capacidades?
  • ¿Cómo afectará la desinformación generada por IA en la confianza pública en los medios?
  • ¿Cuál será el marco normativo para regular el uso de IA en creación de contenidos?
  • ¿Cómo cambiarán las estrategias de desinformación con el uso de la IA más avanzada?

Mientras celebramos los beneficios de la democratización de la información, debemos ser conscientes y proactivos individualmente en enfrentar sus riesgos, sobre todo en un entorno de tanta complejidad y dinamismo como el actual.

Compartir:

Más publicaciones