Sesgos algorítmicos: la desigualdad en la Inteligencia Artificial

La transparencia, la ética y la cooperación internacional son esenciales para prevenir la discriminación derivada de los sistemas de IA

Por: Adriana Bautista Ramírez, especialista en Derecho de la Propiedad Intelectual, maestra en Derecho; actualmente, estudiante del Doctorado en Derecho en la División de Estudios de Posgrado de la Facultad de Derecho de la UNAM.

El mundo actual no puede entenderse de la misma forma sin la inteligencia artificial (IA). ChatGPT se utiliza para realizar tareas escolares; en el tráfico vehicular, Google Maps o Waze indican la ruta más rápida, y las personas mayores recurren a Alexa para escuchar música. La IA se ha incorporado a tantos ámbitos de nuestra vida que las áreas de oportunidad para la aparición de sesgos algorítmicos se amplifican, al igual que las posibilidades de que las personas sean discriminadas.

La IA consiste en diversos sistemas capaces de simular procesos propios de la inteligencia humana mediante redes neuronales, entre los que se encuentran el razonamiento, el aprendizaje, la percepción, la predicción, la planificación y el control, entre otros. La Organización de las Naciones Unidas (ONU) define la IA como un conjunto de “sistemas adaptativos de autoaprendizaje” y señala que comprende una amplia gama de tecnologías.

En este sentido, es posible apreciar que la IA está modificando la forma en que percibimos y resolvemos problemas. No obstante, su uso ha desencadenado otro tipo de dificultades, entre ellas, el sesgo algorítmico.

La IA funciona mediante algoritmos, que pueden describirse como conjuntos de instrucciones orientadas a alcanzar un objetivo. Los algoritmos operan a partir de datos, con los cuales se entrenan los sistemas de IA para que realicen determinadas funciones.

Los algoritmos no son comandos ni programas que surjan por generación espontánea. Detrás de su creación hay seres humanos con una forma particular de percibir el mundo, así como con prejuicios, valores y sesgos adquiridos a lo largo de sus vidas. Todo ello puede filtrarse, de manera consciente o inconsciente, en el diseño y la evaluación de los modelos algorítmicos. En consecuencia, la cosmovisión de sus creadores puede reproducirse y multiplicarse a través de los algoritmos.

Así, los sesgos algorítmicos se producen cuando los errores sistemáticos presentes en los algoritmos, o en la recopilación y el procesamiento de datos, dan lugar a resultados injustos o discriminatorios. La posibilidad de que los algoritmos reflejen una amplia variedad de perspectivas dependerá, entre otros factores, de la diversidad del grupo encargado de crearlos, pues es muy difícil que sus integrantes sean capaces de identificar por sí solos todos los sesgos incorporados en el sistema.

Por regla general, el objetivo no es crear un algoritmo que discrimine. El algoritmo, no es necesariamente el responsable de la generación de los sesgos; estos pueden surgir durante el proceso en el que el equipo desarrollador recopila, etiqueta y codifica los datos utilizados para entrenar la IA. Entre los principales factores se encuentran los siguientes: la recopilación de datos sesgados; el etiquetado de datos debido a errores humanos o subjetividad; la utilización de un número insuficiente de variables y la falta de pluralidad en los datos, que puede provocar la discriminación de grupos minoritarios.

La mayoría de las veces, el usuario no sabe qué ocurre durante ese proceso y únicamente conoce el resultado producido por el algoritmo. Esto se debe, en parte, a que las redes neuronales que hacen posible la IA suelen operar como cajas negras; es decir, como sistemas cuyo funcionamiento interno no es transparente ni fácilmente explicable.

La caja negra impide conocer cómo se procesó la información de entrada de un algoritmo. Esta circunstancia plantea cuestionamientos sobre los estándares éticos que deberían observar los desarrolladores, pues resulta difícil confiar en un sistema que no permite conocer cómo llegó a un determinado resultado. Por ello, dicho resultado puede ser objeto de cuestionamiento.

Para hacer más palpables los riesgos asociados con el sesgo algorítmico, a continuación se mencionan tres ejemplos documentados en Estados Unidos de sistemas algorítmicos que han producido resultados discriminatorios:

1. Amazon dejó de utilizar una herramienta de IA para llevar a cabo procesos de contratación de personal después de descubrir que favorecía los currículums de los hombres, lo que constituía un sesgo algorítmico por razón de género.

2. Algunos algoritmos utilizados para medir el sueño han sido entrenados principalmente con personas jóvenes. Por ello, cuando se utilizan con personas mayores, a menudo no logran detectar adecuadamente determinados trastornos del sueño, lo que constituye un posible sesgo algorítmico por razón de edad.

3. Los algoritmos empleados para clasificar lesiones cutáneas han sido entrenados, en su mayoría, con imágenes de pieles de pacientes blancos, entre 90% y 95%. Por ello, cuando analizan imágenes de pacientes de piel oscura, la probabilidad de un diagnóstico preciso puede ser menor, lo que constituye un posible sesgo algorítmico por razón de raza.

Es claro que cualquier persona, sin importar su edad, raza o condición social, puede ser discriminada por medio de un sistema de IA afectado por un sesgo algorítmico. Por ello, es necesario generar conciencia sobre la evolución de la IA y sobre las alternativas disponibles para mitigar los riesgos asociados con su uso.

El mayor desafío para contener y eliminar los posibles sesgos derivados de la IA radica en que no existen fronteras capaces de contener los riesgos asociados con internet ni con la propia IA. Por ello, es necesaria la cooperación internacional para desarrollar políticas y herramientas que permitan mitigar dichos riesgos.

Con el propósito de minimizar los riesgos de la IA y, por el contrario, maximizar sus beneficios, en 2023 el secretario general de la ONU convocó la creación de un Órgano Asesor de Alto Nivel sobre Inteligencia Artificial. Este grupo está integrado por 39 expertos de distintas disciplinas y tiene como propósito analizar el contexto internacional y recomendar estrategias de gobernanza. El órgano asesor participó en el proceso relacionado con el Pacto Digital Global, adoptado por los Estados Miembros de la ONU, entre cuyos objetivos se encuentra mejorar la gobernanza internacional de la IA en beneficio de la humanidad. De ahí que la prevención y el tratamiento de los sesgos formen parte de su agenda.

Finalmente, puede concluirse que, si bien la IA ha ofrecido a la humanidad una nueva forma de ver y entender el mundo y ha facilitado de manera innegable la vida de las personas, también ha traído consigo riesgos asociados, como los sesgos algorítmicos.

Los sesgos algorítmicos son, en parte, resultado de la huella que dejan sus creadores. Aunque no se generen de forma intencional, la opacidad de algunos sistemas de IA puede dificultar que el usuario conozca cómo se utilizaron los datos y cómo se obtuvo un determinado resultado. Lo anterior puede propiciar resultados discriminatorios o parciales, susceptibles de traducirse en afectaciones a los derechos humanos, no solo de las minorías, sino de cualquier persona, sin importar su raza, edad, condición social o sexo. Lo alarmante es que una persona puede estar siendo discriminada en cualquier momento sin darse cuenta de ello.

La buena voluntad internacional no basta para mitigar los sesgos algorítmicos. También es necesario generar conciencia entre los usuarios sobre el uso y el manejo adecuados de sus datos, así como incentivar a los desarrolladores de inteligencia artificial para que diseñen y entrenen sus sistemas conforme a principios como la transparencia y la ética.