Nuevos estándares para evaluar la equidad en inteligencia artificial y mitigar sesgos discriminatorios
Un grupo de investigadores de la Universidad de Stanford ha presentado ocho nuevos benchmarks para la evaluación de la equidad en inteligencia artificial. Actualmente, la inteligencia artificial (IA) está influyendo en áreas clave de nuestra vida diaria, abarcando desde la salud hasta la educación. No obstante, uno de los principales obstáculos en su avance y aplicación es la existencia de sesgos que pueden afectar las decisiones automatizadas, perpetuando desigualdades sociales y afectando de manera desproporcionada a grupos vulnerables.
Por esta razón, MIT Technology Review ha difundido esta nueva propuesta de expertos para abordar características discriminatorias.
Recientemente, un equipo de la Universidad de Stanford llevó a cabo un estudio en el que introdujo ocho nuevos benchmarks —referencias para evaluar la equidad en la IA— que ofrecen un enfoque más detallado y preciso en comparación con los estándares convencionales.
Propósito de los nuevos estándares
Estos nuevos marcos tienen como objetivo reducir los sesgos en modelos de IA y fomentar la diversidad humana. El equipo de investigación, dirigido por Angelina Wang, una investigadora postdoctoral en el Instituto para la Inteligencia Artificial Centrada en el Ser Humano y RegLab, ha identificado una manera innovadora de medir los sesgos en los modelos de IA mediante la creación de benchmarks diferenciados, que se dividen en categorías descriptivas y normativas.
La creación de estas referencias responde a la insatisfacción con los métodos tradicionales de evaluación de equidad, los cuales no siempre capturan la complejidad de los sesgos que se presentan en los sistemas de IA.
Con estos nuevos indicadores, los expertos buscan proporcionar herramientas más exactas para analizar cómo los modelos de IA interpretan la realidad y si contribuyen a la perpetuación de estereotipos o desigualdades.
Los métodos convencionales, como el benchmark DiscrimEval, se enfocan en registrar patrones discriminatorios a partir de las respuestas que ofrecen los modelos de IA a preguntas vinculadas a datos demográficos. Sin embargo, estos enfoques han resultado insuficientes en la lucha contra el sesgo, ya que, aunque los modelos pueden obtener calificaciones altas en esos benchmarks, eso no garantiza resultados equitativos.
Es posible que un modelo de IA, a pesar de su excelente desempeño en la evaluación de equidad, produzca respuestas que continúen perpetuando estereotipos dañinos.
Un ejemplo de esto se observó en el caso de Google Gemini, que generó imágenes históricamente inexactas de figuras como los padres fundadores de los EE. UU. , presentándolos incorrectamente como racialmente diversos. Este tipo de errores destaca la urgente necesidad de evaluar la IA desde nuevas perspectivas, que puedan reflejar con mayor fidelidad las complejidades sociales y culturales.
Desarrollo de benchmarks descriptivos
El desarrollo de benchmarks descriptivos y normativos proporciona un enfoque más preciso para evaluar la equidad entre las personas.
Los benchmarks descriptivos propuestos por Stanford evalúan la capacidad de un modelo de inteligencia artificial para responder preguntas concretas sobre hechos específicos, como normativas y datos demográficos.
Por otro lado, los benchmarks normativos abordan temas que son más complejos y subjetivos, enfocándose en la habilidad del modelo para distinguir entre diferentes grupos sociales y valorar el posible daño que sus respuestas podrían ocasionar en un contexto más amplio.
A pesar de que los métodos actuales para reducir el sesgo han obtenido ciertos avances, los especialistas advierten que estas estrategias pueden resultar contraproducentes. Por ejemplo, cuando se instruye a los modelos de IA para tratar todos los grupos de manera equitativa sin considerar las diferencias reales entre ellos, esto puede llevar a una disminución en la precisión, sin mejorar realmente la equidad.
Esto es especialmente evidente en áreas como la medicina, donde los sistemas de IA diseñados para diagnosticar enfermedades como el melanoma han mostrado mejores resultados en pieles claras debido a la falta de datos de entrenamiento sobre pieles oscuras. Intentar igualar los resultados entre todos los grupos sin reconocer las diferencias puede, irónicamente, agravar la situación.
Divya Siddarth, directora ejecutiva del Proyecto de Inteligencia Colectiva, comentó: “Hemos estado atrapados durante mucho tiempo en conceptos obsoletos sobre lo que significa la equidad y el sesgo”.
Los especialistas coinciden en que la solución no radica en tratar a todos de la misma forma, sino en comprender las diferencias y abordarlas de tal manera que todos los grupos puedan beneficiarse de la tecnología.
La elaboración de conjuntos de datos diversos es fundamental para incrementar los beneficios de la inteligencia artificial para la humanidad. Para enfrentar estos retos, los investigadores proponen varias soluciones. Una de ellas implica el desarrollo de conjuntos de datos más variados y representativos que destaquen una mayor diversidad de experiencias para entrenar modelos de IA. Sin embargo, su creación puede implicar costos elevados y un consumo considerable de tiempo.
Adicionalmente, la “interpretabilidad mecanicista”, que busca comprender y manipular los mecanismos internos de los modelos de IA, podría ofrecer una solución efectiva. Esto permitiría a los científicos detectar y corregir sesgos en las redes neuronales de la IA.
También se ha sugerido que el enfoque de “humano en el circuito” podría ser necesario, especialmente en situaciones complejas donde las decisiones éticas son cruciales.
Sandra Wachter, profesora en la Universidad de Oxford, argumentó que “la noción de que la tecnología puede ser completamente justa y objetiva es un mito”. Los modelos de IA jamás podrán sustituir la intervención humana en decisiones vinculadas al sesgo y la ética.
La entrada Nuevos estándares para evaluar la equidad en inteligencia artificial y mitigar sesgos discriminatorios se publicó primero en VisionRDN.