Así funciona una inteligencia artificial que señala a hombres como “sospechosos de violación” sólo por una foto

La clasificación que una inteligencia artificial (IA) hace de la imagen de un rostro humano no siempre es correcta ni precisa, e incluso a veces se encuentra con terminología misógina o racista, como pone al descubierto el proyecto ImageNet Roulette, centrado en el entrenamiento de IA en la categoría de personas. Mirá también ImageNet Roulette emplea…

Así funciona una inteligencia artificial que señala a hombres como “sospechosos de violación” sólo por una foto

La clasificación que una inteligencia artificial (IA) hace de la imagen de un rostro humano no siempre es correcta ni precisa, e incluso a veces se encuentra con terminología misógina o racista, como pone al descubierto el proyecto ImageNet Roulette, centrado en el entrenamiento de IA en la categoría de personas.

Mirá también

ImageNet Roulette emplea la base de datos ImageNet, “una de las más importantes e históricamente significativas”, puesta en marcha inicialmente en 2009, que aloja millones de imágenes de entrenamiento para IA. Esta base de datos emplea la estructura semántica de Wordnet, una base de datos de palabras de clasificación creada por la Universidad de Princeton, como explican los responsables de este proyecto.

ImageNet, aunque se enfoca al reconocimiento de objetos, cuenta también con una categoría de “persona”, que contiene más de 2500 etiquetas que clasifican a la gente según raza, nacionalidad, profesión, comportamiento, situación económica o moralidad.

Cada año, ImageNet emplea hasta 30 mil personas a las que se les presentan imágenes para que sean etiquetadas, por un pago diminuto por cada una.

Parte del proyecto también pretende resaltar la forma fundamentalmente defectuosa, y por lo tanto humana, en que ImageNet clasifica a las personas con categorías “problemáticas” y “ofensivas” o emplean terminología misógina o racista. Por ejemplo, algunos hombres que suben su imagen son etiquetados aleatoriamente como “sospechosos de violación” por razones inexplicables, según denunciaron a través de las redes sociales.

Newsletters Clarín

Lo más leído del día | Enterate de que se habló hoy para no quedarte afuera del mundo

De lunes a viernes por la tarde.

Recibir newsletter

Para mostrar la forma en que una inteligencia artificial clasifica un rostro humano siguiendo las categorías de ImageNet, desarrollaron ImageNet Roulette, donde el usuario puede subir una fotografía en la que se le vea bien el rostro para descubrir de qué forma fue clasificada.

La interfaz del sitio web ImageNet Roulette.

Para ello, una vez subida, la IA analiza la fotografía en busca de rostros. Si así ocurre, entonces los envía a Caffe (una herramienta de aprendizaje automático de código abierto) que realiza la clasificación. Posteriormente, la imagen regresa con etiquetas sobre las clasificaciones realizadas. Si no reconoce ningún rostro, entonces la imagen mostrará una etiqueta en la esquina superior izquierda.

Mirá también

ImageNet Roulette es una aplicación web desarrollada por Leif Ryge para el estudio del artista Trevor Paglen, y forma parte de la muestra Training Humans, de Trevor Paglen y Kate Crawford, que actualmente se exhibe en la Fundación Prada, de Milán (Italia).

Fuente: DPA

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *