El fallo ha incrementado en un 30% la desinformación, los contenidos violentos y sexuales, y las noticias en pro de la invasión rusa a Ucrania.
Un fallo masivo en la mecánica interna de Meta ha hecho que la cronología de Facebook tuviera un 30% más de los contenidos que la plataforma debía censurar. El error ha promovido los contenidos violentos, abiertamente sexuales, la desinformación y las noticias estatales rusas sobre la invasión a Ucrania.
El hecho de que Facebook promocione por error los contenidos que se supone que debería moderar parece un mal chiste pero el dato procede de un informe interno escrito por los propios ingenieros de la compañía al que han tenido acceso en The Verge. El fallo incremento en un 30% la presencia de los contenidos que se supone que los moderadores y la IA de la plataforma debían eliminar o votar negativo para que no se difundan tanto. Según el informe, el error afectó a al menos a la mitad de todos los usuarios a nivel mundial.
En un comunicado de respuesta enviado a The Verge, Meta dijo: “Hemos detectado inconsistencias en el voto negativo (lo que la compañía llama downranking) en al menos cinco ocasiones diferentes que se corresponden con pequeños aumentos temporales de las métricas internas. Rastreamos el origen del fallo hasta un problema de software y aplicamos las medidas necesarias para su corrección”. Facebook asegura que no ha detectado ningún impacto significativo a largo plazo en sus métricas.
Según el informe de ingeniería, el fallo se remonta a 2019, pero comenzó a causar problemas a finales de 2021. Los técnicos de Facebook, que se cuentan entre los mejores del mundo detectaron el fallo en octubre de 2021, pero no pudieron localizar la causa hasta el pasado 11 de marzo. El problema fue designado como una “Severa Vulnerabilidad de Ingeniería” siguiendo las directrices internas que se usan para poner nombres neutros a los problemas.
La cronología de Facebook es el producto insignia de la compañía, la selección refinada de publicaciones que los usuarios ven nada más entrar desde la aplicación. Ahora mismo Facebook tiene cerca de tres mil millones de usuarios activos, por lo que es justo pensar que el fallo ha expuesto a más de mil millones de personas a contenidos que precisamente no deberían ver. Lo que viene siendo una severa vulnerabilidad de Ingeniería, vaya.