¿Te has percatado de este nuevo algoritmo usado por Facebook que censura las fotos de las personas? (Foto: Getty Images)
¿Te has percatado de este nuevo algoritmo usado por Facebook que censura las fotos de las personas? (Foto: Getty Images)

¿Has entrado a en las últimas horas y te has dado cuenta que la mayoría de fotos que publicaron tus amigos han sido censuradas por la red social? ¿Se trata de un problema, un nuevo bug? ¿Qué está pasando? Son miles de comentarios que han generado que cibernautas se muestren preocupados.

Si es tu caso y crees que está cometiendo un exceso, pues aquí te lo comentamos. En primer lugar, se descarta de un posible error. Segundo, tampoco es un tipo de bug que será arreglado en las próximas horas.

La red social de Mark Zuckerberg comenzó a partir del 18 de setiembre a censurar todos los memes sobre el 9/11 por respeto a las víctimas y la tragedia. Pero eso no fue el único problema, pues al parecer las imágenes 'graciosas' han sido marcadas como cruel o insensible y da la opción de 'mostrar foto'.

Este nuevo algoritmo, que millones han manifestado que está fallando, hizo que varios compartan también compartan algunas imágenes en las que se usa algún tipo de animal o niño realizando algo gracioso. Como consecuencia a ello, la red social te lo censurará y lo cubrirá como contenido violento, pese a no serlo.

Las fotos censuradas por la red social tienen una clara alusión a lo sucedido el 11 de setiembre del 2001.
Las fotos censuradas por la red social tienen una clara alusión a lo sucedido el 11 de setiembre del 2001.

Las imágenes que han sido censuradas han sido todas las que hagan alusión a el choque del avión con las torres gemelas el 11 de septiembre del 2001. Es así como observamos a tres perritos envueltos en una manta: uno son los edificios y otro es el transporte aéreo.

Todos los días, a cada segundo, alguien comparte algo prohibido y en muchos casos se retira automáticamente; otras veces no es identificado como violatorio de las políticas de y se queda ahí hasta que alguien lo reporta.

También ocurre que el usuario recibe un mensaje de que el material compartido puede no estar permitido. En cualquier caso se puede apelar la decisión de la inteligencia artificial, que nunca deja de entrenarse y aprender. Ahí es donde realmente comienza el proceso de revisión manual.

Facebook en contra del terrorismo

La red social de Mark Zuckerberg explica que desean ser muy claros con qué seriedad toman el tema del terrorismo. A través de un comunicado mencionan que su misión es "mantener a nuestra comunidad segura es fundamental".

"Nuestra postura es simple: no hay lugar en Facebook para el terrorismo. Eliminamos terroristas y publicaciones que apoyan el terrorismo cada vez que nos damos cuenta de ellos. Cuando recibimos informes de posibles puestos de terrorismo, los revisamos con urgencia y con escrutinio. Y en los raros casos en que descubrimos evidencia de daño inminente, informamos de inmediato a las autoridades. Aunque la investigación académica encuentra que la radicalización de los miembros de grupos como ISIS y Al Qaeda ocurre principalmente fuera de línea, sabemos que Internet sí juega un papel, y no queremos que Facebook se use para ninguna actividad terrorista", agrega.

¿Cómo censura Facebook una foto?

Actualmente la red social indicó que está enfocando nuevas técnicas más avanzadas para combatir el contenido terrorista sobre ISIS, Al Qaeda y sus afiliados, y esperan expandirse a otras organizaciones terroristas a su debido tiempo. "Estamos constantemente actualizando nuestras soluciones técnicas, pero estos son algunos de nuestros esfuerzos actuales", explica. ¿Cuáles son las razones?

Concordancia de imagen: cuando alguien intenta cargar una foto o video terrorista, nuestros sistemas buscan si la imagen coincide con una foto o video conocido de terrorismo. Esto significa que si eliminamos previamente un video de propaganda de ISIS, podemos trabajar para evitar que otras cuentas carguen el mismo video en nuestro sitio. En muchos casos, esto significa que el contenido terrorista destinado a subir a Facebook simplemente nunca llega a la plataforma.

Comprensión del lenguaje: también han comenzado recientemente a experimentar con el uso de IA para comprender textos que podrían estar abogando por el terrorismo. Actualmente han experimentando con el análisis de texto que ya han eliminado por alabar o apoyar a organizaciones terroristas como ISIS y Al Qaeda para que podamos desarrollar señales basadas en texto de que dicho contenido puede ser propaganda terrorista. Ese análisis entra en un algoritmo que se encuentra en las primeras etapas de aprender a detectar publicaciones similares. Los algoritmos de aprendizaje automático funcionan en un ciclo de retroalimentación y mejoran con el tiempo.

Reincidencia: también explica que se han vuelto mucho más rápidos al detectar nuevas cuentas falsas creadas por delincuentes reincidentes. A través de este trabajo, han podido reducir drásticamente el período de tiempo que las cuentas de reincidentes terroristas están en Facebook. Este trabajo nunca termina porque es adversario, y los terroristas también están desarrollando continuamente sus métodos. Constantemente identifica nuevas formas en que los actores terroristas intentan evadir los sistemas, y actualizar sus tácticas en consecuencia.