Sistema de inteligencia artificial de reclutamiento comenzó a discriminar

Sistema de inteligencia artificial de reclutamiento comenzó a discriminar

person access_timeOct 15, 2018 show_chart525 Vistas chatComentarios

Recientemente comenzó a discriminar las solicitudes de trabajo de mujeres y recomendaba a candidatos masculinos como favoritos a obtener puestos en Amazon, de acuerdo a un sistema de inteligencia artificial de reclutamiento.

Ante esto, la compañía afirma que si bien los reclutadores de Amazon usaron el sistema para ver sus recomendaciones al momento de contratar, no se basaron en sus clasificaciones.

El problema según sus creadores, debido a que el algoritmo recibió “capacitación” a través de datos introducidos por personas durante un período de 10 años, la mayoría de los cuales eran hombres. Para intentar corregir la discriminación, los expertos ajustaron la base de datos del sistema.

El problema se hizo notorio cuando el sistema comenzó a quitarle puntos a los CV que incluían palabras femeninas en su descripción, como “capitana del club de ajedrez femenino”. También se informó que bajó la calificación de todas las graduadas de dos universidades exclusivas para mujeres.

Por su parte, el sistema de IA fue creado por un equipo de desarrolladores en las oficinas de Amazon de Edimburgo, Escocia en el 2014 con el fin de clasificar automáticamente los CVs que recibían y así poder seleccionar a los candidatos más prometedores.

Al respecto, Stevie Buckley, cofundador del sitio web de empleo del Reino Unido, Honest Work, señala “Teniendo en cuenta los recursos exhaustivos de Amazon y su equipo de ingenieros excepcionalmente talentosos, el hecho de que su herramienta de reclutamiento de IA fracasara miserablemente sugiere que debemos mantener un escepticismo por defecto hacia cualquier organización que afirme haber producido una herramienta de AI efectiva”.

Esta caso ilustra una de las mayores debilidades del aprendizaje autónomo, que es el hecho de que los sistemas se enseñan a sí mismos a crear una idea del mundo según su interacción humana, lo cual nos lleva a cuestionar si ellos no son más que un claro ejemplo de que la discriminación sigue al rojo vivo, aunque ahora las personas que comparten esas ideas se esconden en el anonimatos.



Quantcast