Eliminar contenido ofensivo de una página web no es tan sencillo como parece. Por esta razón por la cual cada vez más compañías, como las dedicadas a redes sociales, invierten en desarrollar aplicaciones y sistemas capaces de filtrar el contenido ofensivo de forma automática.

Facebook es una de esas compañías, la cual acaba de presentar Rosetta, un sistema que es capaz de identificar texto en vídeos e imágenes. Para ello emplea sistemas de aprendizaje automático, los cuales transforman este texto en algo que es legible por una máquina. Entre sus potenciales aplicaciones está la transcripción, de forma que puede ser leída e interpretada por una máquina.

Según indica la compañía, Rosetta ya está funcionando tanto en Facebook como en Instagram, obteniendo texto de más de 1 000 millones de imágenes y fotogramas al día. Además, están empleando la información para identificar aquellos contenidos que violan sus políticas sobre discurso de odio en varios idiomas. Aunque no lo han indicado, la información obtenida también podría emplearse para identificar contenido de interés para el usuario.

Con independencia de futuras aplicaciones que Facebook pueda dar a este sistema, es una herramienta que les va a resultar tremendamente útil, especialmente cuando las elecciones al Congreso y al Senado de los Estados Unidos están tan cerca.

facebook_rosetta.png

Vía: The Verge.