Facebook suspende su IA de sugerencias por aplicar sesgos racistas

Facebook ha desactivado la función de recomendaciones basada en inteligencia artificial después de que se sucediera un grave incidente racista. De acuerdo con The New York Times, el sistema catalogó un video del periódico británico Daily Mail en el que aparecían personas negras como un video de “primates”. Concretamente la red social mostraba en el video un mensaje automático preguntando al usuario si quiere seguir viendo videos de primates.

Ha sido la ex empleada de Facebook, Darci Groves, quien dio la voz de alarma al tuitear sobre el error la semana pasada y compartiera una captura de pantalla.

Um. This “keep seeing” prompt is unacceptable, @Facebook. And despite the video being more than a year old, a friend got this prompt yesterday. Friends at FB, please escalate. This is egregious. pic.twitter.com/vEHdnvF8ui

— Darci Groves (@tweetsbydarci) September 2, 2021

De acuerdo con el medio fuente, la red social ha desactivado el sistema de inteligencia artificial remarcando que el mensaje no fue introducido por ningún empleado, sino que todo fue obra de la IA. La plataforma está realizando una investigación y no volverá a activar el sistema hasta asegurarse de que el problema no volverá a ocurrir.

“Nos disculpamos con cualquiera que haya visto estas recomendaciones ofensivas” dijo la compañía en un comunicado. ”Deshabilitamos toda la función de recomendación de temas tan pronto como nos dimos cuenta de que esto estaba pasando para así poder investigar la causa y evitar que pase de nuevo”, añadió.

No es la primera vez que sucede un incidente de corte racista y en el que un sistema de inteligencia artificial está involucrado. En 2015, el algoritmo de Google Fotos cometió el grave error de catalogar imágenes de personas negras dentro de la categoría “gorilas”. 

Por el momento Google no ha conseguido solucionar este error y la única solución que ha llevado a cabo es la de eliminar la categoría Gorilas junto a otras relacionada con primates para que no se repita una solución similar.

Recomendaciones del editor