Los algoritmos de Instagram ayudan a los grupos de pedófilos a vender contenido de abuso sexual infantil en la popular aplicación para compartir fotos de Meta.
El Wall Street Journal, la Universidad de Stanford y la Universidad de Massachusetts Amherst realizaron una investigación colaborativa sobre la función "conecta a los pedófilos y los guía a los vendedores de contenido" del sistema de recomendaciones de Instagram.
#Pedowhore, #preteensex y #pedobait se utilizan para anunciar cuentas encontradas por especialistas. Sus "menús" incluyen películas y fotos de autolesiones. Después de crear una cuenta de prueba y ver el material de estas redes, se recomendó a los investigadores que siguieran otras cuentas. Después de seguir algunos de estos consejos, una cuenta de prueba se inundó con contenido sexualizado de niños, según el WSJ.
Meta anunció un equipo interno para abordar las preocupaciones del informe. La empresa declaró: "La explotación infantil es un crimen horrible". Siempre estamos investigando estrategias para combatir este comportamiento.
En enero, Meta eliminó a 490.000 infractores de seguridad infantil. Cerró 27 redes de pedófilos en dos años. La firma, que controla Facebook y WhatsApp, también prohibió miles de hashtags relacionados con la sexualización infantil de las búsquedas de los usuarios.
Alex Stamos, ex director de seguridad de Meta y director del Observatorio de Internet de Stanford, le dijo al WSJ que la corporación debería hacer más para resolver este problema. Stamos dijo: "Que un equipo de tres académicos con acceso limitado pudiera descubrir una red tan vasta debería activar las alarmas en Meta". "Confío en que la organización reinvierta en examinadores humanos".
Los mecanismos de moderación de Instagram también ignoraron o rechazaron las denuncias de abuso infantil, encontró la investigación. Los algoritmos de recomendación de Instagram también fueron problemáticos.
Según el WSJ, los usuarios han denunciado cuentas y publicaciones con contenido dudoso, como una que comercializaba material de abuso menor con el comentario "este adolescente está listo para ustedes, pervertidos", solo para que el equipo de revisión de Instagram borrara el elemento o les informara en un mensaje automático: Recibimos demasiados informes para revisar esta publicación. Meta informó al Diario que había ignorado estos informes y estaba examinando sus ciclos internos.
Otras plataformas admitieron menos redes en crecimiento, según el informe. WSJ afirma que los investigadores de Stanford descubrieron "128 cuentas que ofrecen vender material de abuso sexual infantil en Twitter, menos de un tercio del número que encontraron en Instagram". Twitter tiene menos usuarios que Instagram y TikTok "no parece proliferar" ese tipo de contenido. Snapchat, que se usa para mensajes directos, no promovió tales organizaciones, encontró la encuesta.
David Thiel, tecnólogo jefe del Stanford Web Observatory, le dijo al Diario que Instagram estaba luchando por equilibrar los marcos de sugerencias que respaldan a los usuarios de la interfaz y al cliente y las funciones de bienestar que verifican y eliminan el contenido opresivo.
"Tienes que establecer barandillas para que algo que se desarrolle en serio de todos modos esté ostensiblemente protegido, e Instagram no lo ha hecho", agregó Thiel.
El informe The Wall Street Journal está disponible aquí.
Publicar un comentario