Discriminación e Inteligencia Artificial
En la actualidad, el uso de la Inteligencia Artificial (IA) es cada vez más común. Su uso ha desatado grandes debates en rubros muy específicos como la educación, la producción académica y la posibilidad de sustituir al ser humano en algunas profesiones. Pero más allá del abuso que algunas personas hacen en su uso, debemos debatir sobre la fiabilidad de los resultados que se obtienen al consultar a la IA o al pedirle que desarrolle actividades por nosotros.
Este debate no es nuevo, en los últimos años se ha hablado del sesgo que existe en la Inteligencia Artificial, porque básicamente la información que la alimenta y los algoritmos que la rigen están desarrollados por personas blancas, en particular hombres, con determinada concepción de la realidad, pensar que no existe cierto grado de discriminación sería erróneo.
Varios han sido los casos paradigmáticos donde los sistemas de Inteligencia Artificial desarrollados con la finalidad de sustituir a las personas en la realización de determinadas tareas han resultado en demandas de discriminación.
Por ejemplo, cuando se habla de las juntas que deciden sobre libertad provisional en Estados Unidos pueden ser subjetivas por la carga cultural, ética y religiosa de las personas que las integran y son sustituidas por Inteligencia Artificial, que es alimentada con expedientes y sobre ellos se decide de manera “objetiva” se han detectado que los hombres negros reciben un trato discriminatorio frente a los hombres blancos, demostrando que el sesgo del que se acusaba a las personas lo tiene también la IA.
Otro ejemplo está en los programas de IA diseñados para calificar curriculums de personal, sustituyendo los departamentos de recursos humanos, que califican con menor puntuación a mujeres que han solicitado licencias médicas o por maternidad o a personas con alguna discapacidad.
Incluso en temas financieros, la IA puede provocar discriminación de género al otorgar mayor capacidad de crédito a los hombres que a las mujeres.
Los sesgos discriminatorios no han sido eliminados totalmente de las bases de datos que alimentan la Inteligencia Artificial, por ello sustituir la interacción humana por IA bajo ese pretexto es simplemente trasladar la responsabilidad.
A partir de las denuncias y en algunos casos litigios sobre diversos tipos de discriminación provocados por la IA, se ha desarrollado el concepto de auditoría de datos, que implica revisar la información de la que es alimentada la IA con la finalidad de eliminar esos sesgos que provocan la discriminación.
Sin embargo, las propias auditorías de datos deben de realizarse por especialistas en esos tipos de discriminación y no por aquellas personas que fueron quienes en un primer momento alimentaron el algoritmo de la IA con información que involucra las categorías sospechosas de discriminación.
No se trata de satanizar la IA, sino de aprovechar al máximo su potencial. Se pueden desarrollar sistemas de Inteligencia Artificial cuyas bases de datos que los alimentan sean inclusivas, que se hayan eliminado los sesgos culturales, políticos, de género, entre otros; permitir que la participación en el desarrollo de IA sea más integral, permita la diversidad en los equipos de diseño y se creen o desarrollen códigos de ética que puedan, paulatinamente, ir eliminando la discriminación en la IA.
Los retos de la modernidad son cada día mayores, y no se trata de anclarnos en el pasado sino de asumir los retos de frente y potenciar al máximo los avances de la tecnología. El desarrollo de IA debe ir acompañado de un marco normativo sólido, congruente e integral que permita que su uso no solo garantice la inclusión y no discriminación, sino también su mayor beneficio social.