Google es criticado por fallido algoritmo que relaciona la palabra gorilas con personas de raza negra

Google ha sido criticado por ‘arreglar’ su algoritmo de reconocimiento de imágenes racistas simplemente eliminando la palabra ‘gorila’ de su herramienta de etiqueta automática.

El software enfureció a muchos usuarios en 2015, después de etiquetar las imágenes de un programador de computadoras y su amigo como primates.

Ahora, casi tres años después, se ha revelado que la compañía ha «solucionado» el problema bloqueando la identificación de gorilas, chimpancés y monos.

Los usuarios de Twitter han criticado a la compañía por no trabajar para desarrollar un modelo diverso para un algoritmo y en su lugar solo prohibir la identificación de gorilas y personas de raza negra.

Google lanzó su aplicación de fotos independiente en mayo de 2015, anunciando una serie de características tales como la creación automática de colecciones de personas y objetos como comida o paisajes.

La aplicación Google Photos del gigante de internet utiliza una función de etiquetado automático para ayudar a organizar las imágenes cargadas en el servicio y facilitar la búsqueda.

Sin embargo, poco después de su lanzamiento, Jacky Alcine, de Brooklyn, Nueva York, vio fotos de él y una amiga posando para la cámara se había agrupado en una colección etiquetada como «gorila».

El incidente causó indignación y Google dijo que estaba ‘consternado’ y ‘realmente lo sientía’ por el error.

A fines del año pasado, los periodistas de Wired probaron Google Photos utilizando 40,000 imágenes, muchas de las cuales contenían animales.

Podría identificar muchos animales, como pandas y caniches. También podría identificar babuinos, gibones, orangután y titís.

Sin embargo, no se pudo identificar gorilas, chimpancés o monos.

Un portavoz confirmó que la palabra «gorila» fue censurado después del incidente de 2015 y que «chimpancé» y «mono» también habían sido bloqueadas.

«La tecnología de etiquetado de imagen aún es temprana y, desafortunadamente, no es perfecta», dijo el vocero.

«¿Qué hay de hacer el esfuerzo de desarrollar una base modelo diversa (por ejemplo, no todos los blancos) para el algoritmo?», tuiteó Agustin Fuentes, un profesor de antropología con sede en los Estados Unidos.

«Google» ha «corregido» su algoritmo de reconocimiento de imágenes que identificó erróneamente a los negros como gorilas. El algoritmo ya no identifica a los gorilas ni a los negros «, tuiteó John Overholt, curador de Early Modern Books & Manuscripts de la Universidad de Harvard.

Yonatan Zunger, arquitecto jefe de redes sociales de Google, quien dijo que los programadores estaban trabajando para solucionar el problema.

Él declaró: «Gracias por contarnos tan rápido. Ahora está en lo alto de mi lista de errores * nunca * quieres que suceda. Estoy estremecido».

El Sr. Zunger luego dijo que Google había desactivado la posibilidad de que las fotografías se agrupen bajo esa etiqueta para detener el problema.

Sin embargo aclaró que el error puede ocurrir en las fotografías donde su software de reconocimiento de imágenes no pudo detectar una cara en absoluto.

Añadió: «También estamos trabajando en soluciones a largo plazo en torno a la lingüística y palabras para tener cuidado en las fotos de las personas, y así  mejorar el reconocimiento de imágenes en sí mismo, por ejemplo, un mejor reconocimiento de las caras oscuras».