Facebook detectará memes racistas

Facebook detectará memes racistas

person access_timeSep 14, 2018 show_chart872 Vistas chatComentarios

Un programa de computadoras capaz de entender discursos y memes racistas es la nueva herramienta de Facebook para detener publicaciones que promueven el odio.

Poco después del triunfo de Donald Trump, en las elecciones presidenciales de Estados Unidos, activistas sociales han alertado del papel que jugo Facebook durante esas votaciones señalándolo por no actuar en contra de los mensajes de odio y noticias falsas que se propagaron entre sus usuarios.

Por ello la empresa creada por Mark Zuckerberg ha realizado varios cambios en sus políticas internas acerca de noticias falsas, ademas de buscar implementar más personal para detectar cuando un usuarios este haciendo un uso inadecuado de la red social. Y ahora presentó a “Rosetta” una inteligencia artificial que es capaz de analizar y comprender videos e imágenes para buscar mensajes de odio en ellos.

La tecnología es similar a la utilizada para detectar fotografías de desnudos, las cuales están prohibidas en Facebook, con la salvedad de que su capacidad para escanear es de más de mil millones de imágenes y cuadros de video en tiempo real, usando el método llamado Reconocimiento Óptico de Caracteres.

La compañía explicó que “Rosetta” utiliza machine learning, o la capacidad de un programa para aprender nuevos funciones sin la intervención de un ser humano,  para identificar tanto texto como imágenes y vídeos, aunque con algunas limitantes, una vez que detecta la publicación infractora la transcribe a texto y el resumen es enviado al equipo de moderación de la red social.

El sistema tiene marcadas algunas palabras específicas que sirve para emitir una alerta ante un posible mensaje ofensivo, propaganda o discursos de odio. Ante esto, la imagen es eliminada directamente y un humano es quien decide si se mantiene así o se vuelve a publicar. Según Facebook, la extracción de texto e imágenes se utiliza para “identificar automáticamente el contenido que infringe nuestra política de odio y lenguaje”.



Quantcast