Los algoritmos de recomendación de Instagram vincularon e incluso promovieron una “gran red de pedófilos” que anunciaba la venta de “material sexual infantil” ilícito en la plataforma, según los hallazgos de un informe alarmante el miércoles.

Instagram permitió a los usuarios buscar hashtags relacionados con el abuso sexual infantil, incluidos términos gráficos como #pedowhore, #preteensex, #pedobait y #mnsfw, este último un acrónimo que significa “menores que no son seguros para el trabajo”, investigadores de la Universidad de Stanford y el La Universidad de Massachusetts Amherst le dijo al Wall Street Journal .

Los hashtags dirigían a los usuarios a cuentas que supuestamente ofrecían vender materiales pedófilos a través de “menús” de contenido, incluidos videos de niños que se lastimaban a sí mismos o cometían actos de bestialidad, dijeron los investigadores.

Algunas cuentas permitieron a los compradores “comisionar actos específicos” u organizar “reuniones”, dijo el Journal.

Sarah Adams, una influyente y activista canadiense de las redes sociales que denuncia la explotación infantil en línea, le dijo al Journal que se vio afectada por el algoritmo de recomendación de Instagram.

Adams dijo que uno de sus seguidores marcó una angustiosa cuenta de Instagram en febrero llamada “niños incestuosos”, que tenía una serie de “memes a favor del incesto”. La madre de dos hijos dijo que interactuó con la página solo el tiempo suficiente para informarlo a Instagram.

Después de la breve interacción, Adams dijo que se enteró por los seguidores preocupados de que Instagram había comenzado a recomendar la cuenta de “niños pequeños incestuosos” a los usuarios que visitaban su página.

Meta confirmó al Journal que la cuenta del “niño incesto” violó sus políticas.

Cuando The Post se puso en contacto para hacer comentarios, un portavoz de la empresa matriz de Instagram, Meta, dijo que desde entonces ha restringido el uso de “miles de términos de búsqueda y hashtags adicionales en Instagram”.

El portavoz agregó que Meta está “explorando continuamente formas de defenderse activamente contra este comportamiento” y ha “establecido un grupo de trabajo interno para investigar estos reclamos y abordarlos de inmediato”.

“La explotación infantil es un crimen horrible”, dijo un portavoz de Meta en un comunicado. “Trabajamos agresivamente para combatirlo dentro y fuera de nuestras plataformas, y para apoyar a las fuerzas del orden público en sus esfuerzos por arrestar y enjuiciar a los criminales detrás de él”.

Meta señaló sus extensos esfuerzos de aplicación relacionados con la explotación infantil.

La compañía dijo que deshabilitó más de 490,000 cuentas que violaron sus políticas de seguridad infantil en enero y bloqueó más de 29,000 dispositivos por violaciones de políticas entre el 27 de mayo y el 2 de junio.

Meta también eliminó 27 redes que difundieron contenido abusivo en sus plataformas entre 2020 y 2022.

The Journal señaló que los investigadores de Stanford y UMass Amherst descubrieron “comunidades a gran escala que promueven el abuso sexual criminal” en Instagram.

Cuando los investigadores establecieron cuentas de prueba para observar la red, comenzaron a recibir recomendaciones de “sugerencias para usted” a otras cuentas que supuestamente promovían la pedofilia o estaban vinculadas a sitios web externos.

“Que un equipo de tres académicos con acceso limitado pudiera encontrar una red tan grande debería activar las alarmas en Meta”, dijo al Journal Alex Stamos, jefe del Observatorio de Internet de Stanford y ex director de seguridad de Meta.

Stamos pidió a Meta que “reinvierta en investigadores humanos”.

Meta dijo que ya contrata especialistas de las fuerzas del orden y colabora con expertos en seguridad infantil para garantizar que sus métodos para combatir la explotación infantil estén actualizados.

En otro desarrollo extraño, el Journal señaló que el algoritmo de Instagram había enviado previamente a los usuarios una notificación emergente advirtiendo que ciertas búsquedas en la plataforma arrojarían resultados que “pueden contener imágenes de abuso sexual infantil”.

La pantalla supuestamente dirigía a los usuarios a “obtener recursos” sobre el tema o “ver los resultados de todos modos”.

El informe dice que Meta deshabilitó la opción que permite a los usuarios ver los resultados de todos modos, pero se negó a revelar por qué se ofreció en primer lugar.