Los algoritmos de recomendación, basados en comunidades de gustos, definen lo que consumimos en redes sociales y plataformas digitales. Desde la música hasta la política, su impacto transforma industrias, fomenta la desinformación y plantea desafíos urgentes de regulación y transparencia en un mundo digital centrado en la atención y las ganancias.
A pesar de la frecuencia con la que se habla de algoritmos, se habla poco de la lógica que subyace a los sistemas de recomendación que seleccionan el contenido que vemos al acceder a una red social o plataforma. Estos seleccionan lo que vemos basándose en patrones de consumo de perfiles similares al nuestro. La lógica subyacente proviene de la identificación de comunidades de gustos, una idea ya conocida en sociología y que la informática ha traducido en códigos y predicciones algorítmicas.
La música fue un laboratorio fundamental para todo lo que sucedería en el consumo cultural en línea y otros campos, como temas ambientales, comunicación, y campañas y asuntos políticos, debido a su fácil digitalización y compartibilidad. Fue el primer tipo de contenido en sufrir los impactos de internet (piratería, crisis de la industria musical) y, por lo tanto, atrajo la innovación tecnológica. Así, se desarrollaron los primeros sistemas de recomendación para sugerir canciones. Basándose en esta lógica de comunidades de gustos, el modelo se replicó para otros tipos de contenido, como videos, noticias, textos y anuncios; es decir, todo tipo de contenido en línea.
Los algoritmos del gusto
Estos sistemas de recomendación funcionan analizando el comportamiento de grandes grupos de usuarios. Cuando consumes contenido, el sistema cruza tus datos con los de otras personas que han mostrado un comportamiento similar. No predice tus gustos individuales, sino los de la comunidad de gustos a la que perteneces. Este es el principio de la recomendación colaborativa. El sistema asocia al individuo con un grupo con patrones de consumo similares y, basándose en esto, sugiere contenido que probablemente te guste, te interese o te resulte relevante, basándose en lo que alguien con un perfil similar consumió ayer. Suena muy ingenioso, pero es simplemente identificación de patrones.
Inicialmente, se intentó analizar el contenido basándose en elementos de la propia música —por ejemplo, el timbre de la batería o las guitarras— para predecir el siguiente contenido que se ofrecería, como si existiera un ADN musical que determinara las preferencias del usuario. Pronto se comprendió que era más eficiente predecir basándose en el comportamiento de otros usuarios. Esto se debe a que la comunidad no consume un tipo de contenido completamente homogéneo. Combinan diferentes contenidos según sus preferencias, pero crean una identidad basada en sus perfiles. Esto cambia por completo la lógica de la curación. Estos sistemas de recomendación algorítmica comenzaron entonces a organizar la oferta y la demanda de contenido. Esto fue brillante para las empresas, ya que en este sistema no hay excedente: todo el contenido llega a algún usuario, de alguna manera.
Impacto en la industria cultural
Anteriormente, solo alrededor del 20% de los productos culturales generaban ganancias: se trataba de la llamada cultura pop, que vendía tanto que acababa pagando el 80% restante. Por otro lado, la sociedad impulsaba una mayor diversidad cultural, tanto en contenido como en opiniones. Sin embargo, la diversidad no era económicamente viable. Con los sistemas de recomendación, incluso el contenido de nicho se volvió monetizable, ya que ahora estaba dirigido al público adecuado. Esto salvó a industrias como la musical y la audiovisual, que habían llegado a depender de recomendaciones de contenido personalizadas para rentabilizar la diversidad.
Sin embargo, esta lógica beneficia mucho más a las plataformas que a los creadores, quienes siguen recibiendo bajos salarios. Las plataformas centralizan todo: datos, distribución, publicidad e incluso definen y controlan las métricas de rendimiento que ofrecen a los artistas. Los creadores desconocen cuántas veces se ha reproducido su música ni los criterios utilizados para recomendar contenido, más allá de las cifras que la propia plataforma proporciona a cada uno. Este problema de derechos de autor es muy grave. Las plataformas incentivan a los artistas a producir contenido y publicarlo gratuitamente porque concentran todo el poder de distribución y definen los patrones de consumo. Este material se considera entonces publicidad, y el artista tiene que generar ingresos en otras fuentes.
Máximo control, mínima transparencia
En el ámbito de la comunicación, los efectos son aún más preocupantes. Especialmente por conveniencia, las personas se dejan llevar y han llegado a confiar en la curación algorítmica de la misma manera que confiaban en la programación de radio o en un titular de periódico. Imaginaban que alguien había seleccionado esa canción por su relevancia social, no porque alguien hubiera pagado —el llamado soborno, que incluso está prohibido en Brasil y muchos otros países—. Las personas siguen confiando en la curación y, además, creen que lo que aparece en las plataformas se seleccionó de forma neutral. Pero el algoritmo es una programación hecha por humanos, ponderada por intereses y ganancias económicas. Y lo que vemos es que las plataformas priorizan lo que genera más atención y ganancias, no lo que es más relevante, de alta calidad o confiable. Lo que más atrae, más aparece.
La transparencia sobre el funcionamiento de las plataformas es mínima. Cuando surgieron estas empresas tecnológicas, se las percibía como startups innovadoras que ofrecían todo a la gente de forma gratuita, brindando acceso a la información y creando una revolución cultural. Esta visión se cultivó durante veinte años y tuvo consecuencias. Una de ellas, de carácter cultural, es la dependencia de la curación algorítmica. Y esta excesiva confianza y esperanza depositadas en la tecnología tuvo consecuencias económicas y legales: estas empresas crecieron enormemente y avanzaron sin ninguna regulación. Al principio, eran las empresas más poderosas del mundo, poseedoras de más datos que cualquier estado (e incluso regímenes autoritarios) sobre cada ciudadano. Son los nuevos guardianes de la información. Y trabajan para mantener y aumentar este poder, sin regulación, bajo el lema de no producir contenido —solo curan— y, por lo tanto, no son responsables de lo que la gente publica en las plataformas. La consecuencia de todo esto es que la información de baja calidad o falsa circula con mayor intensidad que el contenido periodístico serio.
Muchos medios de comunicación han terminado sucumbiendo a esta lógica de producir contenido de baja calidad para aumentar la interacción, producido sin inversión alguna. Los grandes medios, a su vez, aquellos con poder económico, han comenzado a competir con las plataformas porque no pagan regalías y, en última instancia, porque compiten por el mercado publicitario. Al mismo tiempo, existe un malestar global por esta cantidad de contenido de baja calidad en redes sociales. Las plataformas han comenzado entonces a buscar contenido de los medios tradicionales, especialmente los más pequeños, que necesitan visibilidad para sobrevivir. Ofrecen apoyo técnico y financiero, moldeando así el formato y la lógica de la producción de contenido periodístico. Google, por ejemplo, financia proyectos periodísticos en todo el mundo, pero enseña cómo producir más contenido recomendado para su sistema. En otras palabras, las plataformas han creado un modelo en el que el periodismo las necesita para sobrevivir.
La regla vigente en el periodismo, establecida tras mucho esfuerzo, es que si hay dinero o una ganga tras una recomendación, es un soborno, y el público debe saberlo. En redes sociales, este debate no ha avanzado, dejando oculta la cuestión de si hay pago tras las sugerencias. Esto expone la falta de neutralidad algorítmica y la desigualdad de visibilidad: el contenido tiene diferente peso.
La desinformación como mercado rentable
La desinformación siempre ha existido, pero hoy opera como una industria global, con escala global y alcance instantáneo. Ya no es necesariamente un asunto político o ideológico. Es un mercado profesionalizado que atrae el interés de diversos sectores. Si bien antes existían grupos que actuaban como militantes o hackers aislados, ahora está impulsada por intereses políticos, económicos y criminales, y prospera en plataformas gracias a su alcance masivo, regulación limitada y algoritmos que premian el sensacionalismo. Esto lo vemos claramente en la política, la salud y el medio ambiente.
En las elecciones, por ejemplo, se utiliza masivamente la desinformación para manipular la percepción pública e influir en los resultados. Esta industria se suma al grupo de empresas contratadas por las campañas electorales para producir piezas de propaganda con el fin de manipular a los votantes. Difunden información falsa sobre candidatos, gobiernos, etc., o potencian artificialmente un tema de interés, dando la impresión de que la opinión pública está cambiando en cierta dirección, de que la gente está discutiendo un tema porque lo considera relevante, cuando en realidad nada de esto es cierto. Vimos esto en 2016, en la campaña electoral de Trump en Estados Unidos, y en el referéndum del Brexit en el Reino Unido. Aquí es donde surgió la propaganda computacional, manipulando el debate público a gran escala. Los bots y los perfiles falsos inflan la interacción, generan controversias, atacan a los oponentes y amplifican el discurso extremista. La llegada de herramientas de IA generativa hace que este campo sea aún más complejo, con la posibilidad de generar contenido masivo que parece legítimo pero fue creado para engañar, manipular o simplemente lucrar.
Especialmente en las campañas electorales, es fundamental garantizar el acceso a información de calidad y transparente para que la ciudadanía pueda tomar decisiones basadas en la realidad. Si no hay información fiable, si se manipula a la población con información falsa, la democracia se ve seriamente amenazada.
La tormenta perfecta
En los últimos cinco años, la industria de la desinformación se ha vuelto más sofisticada y ha crecido sin castigo ni supervisión. Su influencia en el ámbito de la salud, por ejemplo, es sumamente preocupante. En redes sociales, influencers, grupos y empresas promueven curas milagrosas y desinformación sobre vacunas, lo que fomenta un grave problema de salud pública. En la agenda ambiental, existe una guerra de desinformación para sabotear las políticas públicas y desacreditar la ciencia climática. Estas operaciones tienen objetivos claros y diversas fuentes de financiación, desde grupos políticos hasta sectores económicos. La desinformación se ha convertido en una herramienta de cabildeo. E incluso quienes no la creen sufren sus consecuencias.
Grupos políticos marginales , especialmente los de extrema derecha, utilizaron las plataformas para difundir sus narrativas y contenidos y comenzaron a consolidarse en el mundo digital. Al margen de los medios tradicionales —donde había espacio para la derecha, pero no para la extrema derecha—, ocuparon el nuevo espacio digital y comenzaron a defender las plataformas como aliados estratégicos.
En otras palabras, no forman parte del establishment tradicional y dependen de internet como infraestructura. A cambio de la visibilidad que reciben, actúan contra cualquier intento de regulación. Es una relación de conveniencia: las plataformas garantizan espacio y alcance, y estos grupos ofrecen apoyo político para mantener el entorno desregulado. Con la falta de regulación de las redes, ellos mismos tienen la seguridad de no ser responsables del discurso de odio ni de las estrategias de comunicación basadas en la desinformación. Estos grupos de extrema derecha se han apropiado de la narrativa de la libertad de expresión para proteger un entorno que les es extremadamente favorable. Han combinado intereses económicos y políticos. Una combinación perfecta, o, en mi opinión, una tormenta perfecta.
Modelo centrado en las ganancias, pero podría ser diferente
Abordar este problema implica acciones y soluciones que abarcan tres niveles: cultural, político y económico. En primer lugar, debemos comprender que la desinformación no es un problema individual, sino colectivo. No se trata, por ejemplo, de enseñar a los usuarios a identificar noticias falsas ni de responsabilizar a los padres y cuidadores del contenido al que acceden los adolescentes en línea hoy en día. La responsabilidad debe recaer en las plataformas, no en el usuario. Las plataformas no son solo espacios técnicos o neutrales, sino entornos con profundas implicaciones sociales y políticas. Necesitamos debatir qué modelo de comunicación digital queremos como sociedad. Hoy en día, el modelo se centra en la atención y las ganancias de las grandes corporaciones. Pero podría ser diferente, basado en los derechos, la diversidad y el interés público. Este cambio requiere compromiso social, movilización y voluntad política. Y, sobre todo, requiere que dejemos de dar por sentado el caos informativo en el que vivimos.
Desde una perspectiva económica, una solución reside en la articulación social de los sectores económicos que reconocen la gravedad y el impacto de la desinformación en sus propios negocios. Deben movilizarse y hacer valer su fuerza para hacer frente a los intereses de estas empresas específicas, que requieren algún tipo de límite. Políticamente, no hay otra solución: la regulación es necesaria. Necesitamos exigir transparencia en los sistemas de recomendación y rendición de cuentas a las plataformas. Esto requiere regulación y supervisión, así como legitimidad e influencia política para hacer cumplir las leyes vigentes.
