El peligro de los algoritmos para los adolescentes
Ya hablamos en otra ocasión de la paradoja de la elección y cómo Netflix trabajaba para acortar el tiempo de decisión para evitar la pérdida de la atención del usuario. Hoy queremos ampliar un poco más el foco a otras plataformas y redes sociales, para averiguar el mayor o menor peligro de los algoritmos, especialmente para personalidades poco formadas como las de los adolescentes. Aparentemente están ahí para ayudarnos, pero… ¿Y si el funcionamiento de los algoritmos puede tener efectos perniciosos?
Es evidente que cada vez estamos más rodeados de algoritmos. Un algoritmo es un conjunto de instrucciones definidas, ordenadas y acotadas para proporcionarnos una solución a un problema. Sin embargo, hoy casi todos hemos adoptado coloquialmente el uso de este término para definir todos aquellos sistemas basados en código informático o Inteligencia Artificial encaminados a facilitarnos algún tipo de tarea en la vida cotidiana.
¿Cómo funcionan los algoritmos?
En lo que respecta, por ejemplo, al consumo de contenidos, si el problema es que un usuario tarda mucho tiempo en tomar una decisión respecto a un contenido, el algoritmos utilizará toda la información de que dispone para acortar ese tiempo. El programa se fijará en “inputs” como con qué contenidos tardó menos tiempo en decidir el usuario, qué señales dio cuando estaba a punto de abandonar el medio o plataforma, qué contenidos examinó detenidamente antes de abandonar… Esto quiere decir que potenciará los contenidos en los que se decidió más rápido, pospondrá aquellos por los que no se decidía o cambiará rápidamente de propuesta cuando el usuario muestre símbolos de fatiga por la decisión.
Neflix es un ejemplo claro de uso de algoritmos a la hora de lanzar contenidos. Establece de 3 a 5 clusters de contenidos similares. Estas “comunidades”, son grupos de usuarios con gustos y hábitos parecidos. Realiza recomendaciones a los usuarios basadas en los clusters asignados. Recalcula todos los perfiles cada 24 horas. Por último, cada cierto tiempo tantea con un contenido no relacionado con sus gustos, para probar si capta su atención. Podemos ver que hay una puerta abierta a que al usuario le puedan gustar cosas diferentes, pero que no es muy grande. El hecho de que los algoritmos se retroalimenten continuamente, sin lanzar propuestas de contenidos nuevos, podría empobrecer la experiencia del usuario, en aras de lograr su atención continua. Pero no es el único peligro de los algoritmos…
El algoritmo de TikTok
Los algoritmos funcionan de modo diferente según la plataforma o red social. Por ejemplo, se describe el algoritmo de TikTok como “agresivo” en el sentido de que tarda muy poco en proponer contenidos por los que el usuario ha mostrado preferencia.
El algoritmo de TikTok busca señales de preferencia del usuario: videos que le han gustado, que comparte, que añade a favoritos, que guarda). También elabora un perfil del usuario basado en las cuentas que sigue, los comentarios que publica, si ve los vídeos fraccionadamente o hasta el final,… Combina esto con las búsquedas que realiza basada en leyendas, hashtags o temas, Y finalmente, utiliza los datos de configuración (idioma, país, tipo de dispositivo,…). Con toda esta información establece un ”algorimo personal”. Teóricamente, TikTok no se basa tanto en el número de seguidores que tenga un perfil para lanzar sus vídeos. Sin embargo, es evidente que los vídeos que más se eligen serán viralizados ya su vez y lograrán un efecto cascada.
La experiencia de usuario en TikTok
La experiencia de un usuario no versado en TikTok es que cada vez que clica una señal de preferencia sobre un vídeo, le ofrece infinidad de vídeos relacionados con este, aunque sea después de un simple “me gusta”. Esto se debe a que TikTok trabaja con gente mayoritariamente joven, y necesita conseguir su atención con mucha rapidez, antes de que se vayan a otra red social que responda más ágilmente. Por eso el tiempo que tarda en crear un algoritmo personal es muy bajo. Esto puede traducirse en consecuencias bastante estremecedoras.
Por ejemplo, un estudio del “Center for Countering Digital Hate” creó ocho cuentas ficticias para niños de 13 años. Hizo que se detuvieran en vídeos de imagen corporal, dándoles me gusta. A los 39 segundos, la red social empezó a recomendar vídeos sobre esos temas. A los 2, 6 minutos, TikTok recomendaba contenidos sobre suicidio y a los 8 minutos, relacionados con trastornos alimentarios. Cada 39 segundos, TikTok recomendaba vídeos sobre imagen corporal y salud mental a los adolescentes. Este es el peligro de los algoritmos para usuarios adolescentes.
El algoritmo de Facebook
Sabemos que Facebook prioriza los contenidos de personas con las que interactúa el usuario, tipo de contenido que suele ver y publicaciones con muchas interacciones. Algo que es positivo es que contenidos con lenguajes amenazantes, ofensivos, violentos, discriminadores, estereotipos dañinos o insultos no serán favorecidos por los algoritmos (incluso podrían ser eliminados). Al final, el algoritmo de facebook se basa mucho en la comunidad de usuarios con la que interactúas, las señales de preferencia que has mostrado (de modo menos agresivo que TikTok) y las predicciones basadas en tu interacción con la red social. La suma de todo esto hará que el contenido sea más o menos relevante y aparecerá más o menos arriba en el feed del usuario.
Sin embargo, la tendencia en Facebook no es simplemente las publicaciones. Los reels son pequeños vídeos que han captado la atención, sobre todo de los usuarios más jóvenes… En este caso, se priorizarán vídeos entretenidos, atractivos, con muchos filtros o efectos, formato vertical con música y que estén bien realizados. No conseguirán éxito vídeos borrosos, con marcas de agua de otras redes (como TikTok), o bien formato horizontal (porque el contenido se consume prioritariamente en móvil).
Contenido nativo vs. contenido externo
Otra cosa importante de Facebook es que prioriza el contenido nativo, es decir, contenido creado para Facebook y que no enlaza a un contenido fuera de la red social. Las tasas de interacción más altas son las actualizaciones de estado con foto (0,12%) , seguidas de cerca por las que no tiene foto (0,11%). Sin embargo, los vídeos alojados en otras plataformas solo consiguen un 0,08% y las publicaciones con enlace un 0,04%. La consecuencia evidente es que Facebook no es una red social que busque proporcionar al usuario contenido para que siga navegando por la red, sino que pretende que este pase el mayor tiempo posible en la propia red social. Eso explica cómo se multiplica peligrosamente el tiempo que los usuarios dedican a la misma “sin ningún interés en particular”.
El algoritmo de Instagram
Instagram, perteneciente a la misma compañía que Facebook, prioriza también el contenido de personas a las que el usuario sigue, tipo de contenido que prefiere y “relevancia” del mismo, donde incluye tanto factores de tendencia como de actualidad.
Otros criterio son las reacciones sociales que tiene una publicación, si ha sido etiquetada, o la duración de consumo (especialmente en vídeos).
También las “stories” y los “reels” tienen importancia en Instagram. Influyen en que se prioricen o no, cuándo se han utilizado, si tienen o no “stickers” y música o la interacción que han tenido (likes). También es importante la cuenta o persona que la ha publicado, si interactúas con frecuencia con ella, y si has dejado señales de interación. Instagram también valora la popularidad general de la “stories” y los “reels” (aunque no tanto como TikTok) y -al contrario que TikTok, que le da menos-, da también importancia a si el autor del contenido tiene muchos seguidores comprometidos.
En definitiva, tanto Facebook como Instagram persiguen el mismo objetivo que TikTok (mantener al usuario el mayor tiempo posible conectado a la aplicación). Sin embargo, se prioriza más la “comunidad”, porque se prioriza más el contenido de los usuarios con los que más has interactuado, y no tanto los que más reacciones tienen. También influye que un usuario tenga una comunidad extensa de usuarios comprometidos.
Algunos factores importantes más es el etiquetado de ubicado y el ritmo de publicación.
Conclusiones
En conclusión, tanto Facebook como Instagram persiguen la finalidad de que el usuario comparta su estado con frecuencia con su comunidad de amigos o seguidores, lo que se traduce en una mayor interacción social en la red social y mucha menos fuera. Al contrario que WhatsApp o Telegram, estas redes buscan que la interacción del usuario sea lo más virtual posible.
Como solución amplificadora de contactos o red social es ideal. Sin embargo, para un adolescente, cuya dificultad es precisamente la aprobación de sus iguales y la pertenencia a grupos, el hecho de que esta esté mediada por una red social cuya mayor finalidad es mantenerle conectado, puede generar efectos perniciosos. Entre estos, el peligro de los algoritmos de Instagram es que priorice la interacción virtual frente a la presencial, que se distorsione la imagen al querer primar contenidos atractivos que capten la atención de otros usuarios o que tome el éxito en la red social como una señal de pertenencia, por encima o al margen de la pertenencia a grupos reales de iguales.
