Rosetta: el sistema de inteligencia artificial de Facebook para detectar memes ofensivos

Facebook presentó su sistema de inteligencia artificial para detectar memes: su nombre es Rosetta. Según publicaron en el blog oficial, Rosetta ya está en funciones. Diariamente, el sistema de extrae texto de mil millones de imágenes y frames de videos. El sistema busca tanto en Facebook como en Instagram.

De esa forma, el sistema ayuda en las labores de moderación del equipo de seres humanos de la empresa. A través de técnicas de machine learning, Rosetta identifica el texto de las imágenes y lo transcribe. Previamente, el sistema tiene marcadas algunas palabras específicas que alertan ante posibles mensajes ofensivos. Así, la imagen es eliminada directamente, aunque luego un moderador humano puede volver a publicarla.

El rol de Rosetta

El objetivo del sistema es recuperar la credibilidad de la compañía, en medio de diversos escándalos. La difusión de mensajes de odio en la plataforma es uno de los ejes que se le cuestionan a Facebook.

Así, con la entrada en operación del sistema, la empresa asegura que será capaz de moderar el contenido ofensivo de manera eficiente.