Guía de conceptos

IA responsable

La IA ya ayuda a evaluar solicitudes de préstamo, a filtrar candidaturas de empleo y a apoyar a los médicos. ¿Basta con que acierte? No del todo. También hay que preguntarse si trata peor a algún grupo, si alguien puede explicar por qué decidió lo que decidió y quién responde cuando se equivoca. En esta guía recorremos los principios de la IA responsable y las formas prácticas en que los equipos los cumplen de verdad.

01

Los principios de la IA responsable

Gobiernos, organismos internacionales y empresas de IA han publicado sus propios principios. Los nombres y la cantidad cambian un poco, pero lo que dicen es casi lo mismo. En la escena de abajo, elige un principio y mira qué pasa cuando falla.

Principio
Equidad
No tratar distinto a personas en situaciones parecidas
Cuando falla
Con la misma experiencia, las personas de un género reciben puntuaciones más bajas

Hacen falta los seis principios juntos para sostener una IA confiable

Equidad: No tratar distinto a personas en situaciones parecidas. Cuando falla: Con la misma experiencia, las personas de un género reciben puntuaciones más bajas.

PrincipioQué significa
EquidadNo tratar distinto a personas en situaciones parecidas por su grupo, como el género, la edad o la región
Fiabilidad y seguridadFuncionar de forma estable, como se espera, en condiciones distintas (robustez), sin causar daños
Privacidad y seguridadProteger los datos y usarlos solo dentro de lo que las personas aceptaron
InclusiónQue cualquiera pueda usarlo, sin importar su discapacidad, edad, idioma o región
TransparenciaAvisar de que se usa IA y explicar cómo toma sus decisiones (incluye la explicabilidad)
ResponsabilidadAlguien responde por el resultado y hay una forma de reclamar y corregir errores

Escribir los principios no hace que nadie los cumpla. El resto de la guía trata de lo que de verdad se mide y se construye para cada uno.

Si la pregunta dice… → elige esto

  • “Trata distinto a personas en situaciones parecidas según su grupo”Un problema de equidad
  • “Funciona de forma estable en condiciones muy distintas”Fiabilidad y seguridad (robustez)
  • “Que cualquiera pueda usarlo, sin importar discapacidad o idioma”Inclusión
  • “Avisa a los usuarios de que hay IA y de cómo decide”Transparencia
  • “Un responsable con nombre y un proceso para el resultado”Responsabilidad

El principio que más problemas da es la equidad. Entonces, ¿por qué una IA trataría peor a un grupo que a otro?

02

De dónde viene el sesgo

La IA no se propone discriminar. La mayor parte del sesgo viene de los datos. Un modelo aprende de los ejemplos que le muestras, así que si los datos se inclinan hacia un lado, los resultados se inclinan igual. La escena de abajo muestra un modelo de reconocimiento de voz: cuántos datos de entrenamiento tenía para cada acento y con qué frecuencia se equivocaba con cada uno.

Acento estándar
900 h · 5% de error
Acento regional
100 h · 22% de error

Modelo de reconocimiento de voz: datos de entrenamiento y tasa de error por acento (ejemplo)

El audio con acento regional es solo el 10% de los datos de entrenamiento, así que el modelo no entiende a esas personas más o menos una de cada cuatro veces (22%). El modelo no discrimina a propósito: los datos están desequilibrados.

Tipo de sesgoCómo apareceEjemplo
Sesgo de muestreo (de representación)Algunos grupos tienen muy pocos datosHay pocas grabaciones con acento regional, así que el modelo no las entiende bien
Sesgo históricoDecisiones injustas del pasado quedaron grabadas en los datosUn grupo que antes casi no se contrataba también recibe puntuaciones bajas del modelo
Sesgo de medición o de etiquetasLa forma de etiquetar las respuestas se inclina hacia un ladoEl comportamiento de un grupo se marcaba como “riesgoso” con más frecuencia
Variables proxy (sustitutas)Otras características delatan la información sensible que quitasteQuitaste el género, pero el nombre y los pasatiempos lo siguen revelando
Aquí es donde mucha gente se confunde: quitar de las entradas atributos sensibles como el género, la edad o la región no hace desaparecer el sesgo. Otras características pueden llevar la misma información. Por eso hay que separar los resultados por grupo y medirlos de verdad.

Si la pregunta dice… → elige esto

  • “El rendimiento es bajo porque un grupo tiene muy pocos datos de entrenamiento”Sesgo de muestreo (de representación) → reunir más datos
  • “El modelo copia decisiones discriminatorias del pasado”Sesgo histórico
  • “Quitar los atributos sensibles elimina el sesgo”Falso: quedan las variables proxy
  • “Revisar qué proporción tiene cada grupo en el conjunto de datos”Detección de sesgos (análisis de datos)

Entonces, ¿cómo compruebas con números reales si un modelo es justo?

Solo Pro

Hasta aquí llega la parte gratuita

Los otros 5 capítulos están disponibles para suscriptores Pro. Cada uno sigue con visuales en 3D y pistas de “si la pregunta dice…”, y en el último capítulo lo pones a prueba tú mismo.

  1. 03Medir la equidad
  2. 04Explicabilidad
  3. 05Transparencia y documentación
  4. 06Gobernanza y regulación
  5. 07Leer situaciones como principios
Ver Pro¿Ya tienes Pro? Inicia sesión

Publicidad

PasslyExam

Ya leíste el concepto. Ahora ponlo a prueba con preguntas de examen

PasslyExam ofrece preguntas de práctica originales, explicaciones y simulacros completos basados en la guía oficial de cada certificación. Las explicaciones cubren por qué la opción correcta es la correcta y por qué las opciones parecidas no lo son. Regístrate y practica gratis todos los días.

Empieza gratisIniciar sesión

Exámenes que incluyen este concepto