¿Qué es la Influencia Algorítmica?
Este post pretende aclarar el concepto de influencia algorítmica que es justo en el que he basado el argumento sobre la posibilidad de manipulación y desinformación al que nos sometemos cuando, sin criterio, accedemos a las IA generativas. Huelga decir que Estados Unidos (VASA-I) ha considerado la IA un asunto de Seguridad Nacional. Por lo que debemos concienciarnos de que su uso ha de ser muy responsable.
La influencia algorítmica se refiere al impacto que los algoritmos pueden tener sobre las decisiones, percepciones y comportamientos de las personas al priorizar o presentar información de manera «específica». Esto es particularmente relevante cuando los algoritmos determinan qué contenido, anuncios o noticias se muestran primero en las redes sociales, los motores de búsqueda o en plataformas de video como YouTube. Esta práctica puede influir en la opinión pública, el consumo y hasta el comportamiento electoral.
Lejos de suponer que sea una práctica marginal, algunos casos que se pueden citar son:
Caso de Facebook y la personalización de noticias:
En 2014, se reveló que Facebook había realizado un experimento con sus usuarios en el que manipulaba el contenido mostrado en el feed de noticias para estudiar cómo los cambios en las emociones del contenido podían afectar el estado emocional de los usuarios.
Durante este experimento, la plataforma «alteró» los algoritmos para mostrar más contenido positivo a unos usuarios y más contenido negativo a otros. Los resultados demostraron que los usuarios expuestos a contenido predominantemente negativo comenzaron a publicar más mensajes negativos, mientras que aquellos que veían contenido positivo compartieron más publicaciones positivas. Este tipo de manipulación sutil, aunque fue con fines de estudio, es un claro ejemplo de cómo los algoritmos pueden influir en el estado de ánimo y, potencialmente, en la conducta social.
Elecciones y publicidad política:
Durante la campaña presidencial de 2016 en Estados Unidos, la empresa Cambridge Analytica utilizó datos de Facebook para diseñar y personalizar anuncios políticos dirigidos a ciertos perfiles psicológicos de votantes. El algoritmo optimizaba los anuncios de forma tal que cada usuario viera mensajes diseñados para resonar con sus valores, miedos y prejuicios específicos. Este tipo de influencia algorítmica polarizó a los votantes y demostró cómo la personalización excesiva puede tener un impacto significativo en el comportamiento electoral y en la opinión pública.
YouTube y la radicalización:
Se ha demostrado que el algoritmo de recomendaciones de YouTube, que optimiza para maximizar el tiempo de visualización, tiende a sugerir contenido progresivamente más extremo. Por ejemplo, si un usuario comienza viendo videos sobre teorías de conspiración «inofensivas», el algoritmo podría recomendarle videos con contenido más radical o teorías conspirativas más intensas, con el objetivo de mantener al usuario en la plataforma. Esta estrategia puede llevar a una forma de «radicalización algorítmica«, donde el usuario, al consumir contenido más polarizante, se expone a ideas extremas que posiblemente no habría buscado por sí mismo.
Cómo funciona la influencia algorítmica
Los algoritmos están diseñados para optimizar ciertos resultados o KPI (Indicadores Clave de Rendimiento), tales como el tiempo de visualización, el número de clics o el nivel de participación. Estos objetivos pueden llevar a los algoritmos a mostrar contenido que provoque reacciones emocionales fuertes (positivas o negativas), ya que es más probable que este tipo de contenido retenga a los usuarios. La inteligencia artificial y el aprendizaje automático analizan los comportamientos pasados de los usuarios para identificar patrones, lo cual les permite predecir qué tipo de contenido los mantendrá más tiempo en la plataforma o logrará la interacción deseada.
Sin embargo, el problema surge cuando estas predicciones y optimizaciones priorizan contenido que puede ser engañoso, sensacionalista o parcial, incrementando la polarización y la desinformación. En efecto, los usuarios no solo están expuestos a información cuidadosamente seleccionada, sino que también son guiados hacia una versión filtrada de la realidad que refuerza sus prejuicios y creencias previas, sin permitir un acceso equitativo a puntos de vista alternativos.
Implicaciones y desafíos: campo regulatorio por delante.
La influencia algorítmica plantea preocupaciones éticas y de derechos humanos, especialmente en el contexto de la democracia y la libertad de información. Si bien el Reglamento de Inteligencia Artificial de la UE prohíbe ciertas prácticas de manipulación que explotan vulnerabilidades emocionales o psicológicas, los límites de lo que se considera manipulación o personalización aceptable aún están en debate. Además, es esencial que los algoritmos de las plataformas de redes sociales y motores de búsqueda sean más transparentes y que las personas puedan tener control sobre la personalización de su experiencia en línea.
La influencia algorítmica es un tema complejo, pero la aplicación de normas claras y la concienciación del usuario (vuelvo a repetirlo, es preciso no menoscabar la capacidad crítica de la población) pueden ayudar a reducir sus efectos negativos y a fomentar una interacción más equilibrada y transparente con la tecnología.
El Quijote Digital 