¿Recomendaciones en base a la raza? Nueva información sobre los algoritmos de TikTok

Un experimento ha levantado sospechas en torno al criterio con el que la popular aplicación TikTok sugiere perfiles similares a los perfiles seguidos.

Por lo que ha observado el investigador de inteligencia artificial y desinformación de la Universidad de California en Berkeley Marc Faddoul, se puede sugerir que hay un importante criterio racial que determina las recomendaciones que nos hacen los algoritmos de TikTok.

La cosa funciona así: cuando sigues a una nueva cuenta puedes clicar en una flecha que te recomienda otras cuentas a las que seguir. Faddoul se percató de que los perfiles de las personas que le recomendaba la aplicación tenían un parecido considerable con la persona a la que acababa de seguir, incluida la raza y el color de cabello.

El descubrimiento se produjo casi de casualidad, mientras Faddoul examinaba la aplicación en busca de desinformación, y así lo recalcó el investigador. Sin embargo, al hacerse una cuenta nueva para verificar los resultados, estos volvieron a sorprender al estadounidense:

La aplicación asegura que, de ser cierto, no se trata de una decisión consciente de la compañía.  Sea como sea, esta información pone sobre la mesa el necesario debate sobre cómo emplean los algoritmos y la inteligencia artificial las apps que usamos a diario para promover personas y contenido.