AWS AIF-C01
Guías de IA responsable
Repaso para el examen AWS Certified AI Practitioner. Bias, fairness, explicabilidad y las herramientas concretas que AWS ofrece para gobernarlo.
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Repaso · Agenda
Qué cubre este repaso
01Los 8 pilares de Responsible AI
El marco que AWS usa para todo el dominio.
02Bias, Fairness y datasets
De dónde viene el sesgo, cómo se mide y cómo se evita.
03Explainability vs. Performance
El trade-off de la caja negra.
04Herramientas de AWS
Clarify, SHAP, Model Cards, AI Service Cards, Guardrails.
05Gobernanza y memorización
Human-in-the-loop, A2I, riesgos legales y ambientales + resumen.
AgendaAI = Artificial Intelligence · SHAP = SHapley Additive exPlanations · A2I = Augmented AI02 / 17
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Marco · Definición AWS
Los 8 pilares de Responsible AI
| Pilar | Qué busca |
|---|
| Fairness | Que el modelo no discrimine sistemáticamente a un grupo. |
| Explainability | Poder explicar por qué el modelo dio una predicción. |
| Privacy & Security | Proteger los datos usados para entrenar e inferir. |
| Safety | Evitar daño físico, psicológico o social por el uso del sistema. |
| Controllability | Poder intervenir, ajustar o detener el sistema. |
| Veracity & Robustness | Resultados consistentes y correctos, incluso ante inputs inusuales. |
| Governance | Políticas, procesos y responsables claros sobre el uso de IA. |
| Transparency | Comunicar cómo y con qué datos se construyó el sistema. |
Los 8 pilaresAI = Artificial Intelligence · IA = Inteligencia Artificial03 / 17
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Concepto · De dónde viene el sesgo
Bias — tres orígenes
| Tipo | Dónde entra |
|---|
| Sampling bias | La muestra de datos de entrenamiento no representa a la población real. |
| Measurement bias | La forma de medir o etiquetar los datos introduce distorsión sistemática. |
| Observer bias | El criterio humano usado para etiquetar ya viene con sesgo propio. |
Bias04 / 17
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Concepto · Medir la equidad
Fairness — equidad entre grupos
Qué mide
Si el modelo tiene el mismo desempeño (accuracy, recall) entre subgrupos.
Subgrupos típicos
Género, edad, región, raza, nivel socioeconómico.
Cómo se detecta
Comparando métricas del modelo por subgrupo, no solo el agregado.
Herramienta AWS
SageMaker Clarify — mide bias antes y después del entrenamiento.
Fairness05 / 17
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Concepto · Datos
Datasets responsables
Inclusivo
Representa a todos los grupos que usarán o serán afectados por el modelo.
Diverso
Variedad de perfiles, contextos y casos — evita que el modelo funcione solo para un segmento.
Curado
Fuentes revisadas y confiables, con calidad y origen documentados.
Balanceado
Sin sobre o sub-representación de clases o grupos demográficos.
Datasets responsables06 / 17
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Trade-off · La caja negra
Explainability vs. Performance
| Aspecto | Modelo interpretable | Modelo "caja negra" |
|---|
| Ejemplos | Regresión lineal/logística, árboles pequeños. | Deep learning, ensembles, Foundation Models. |
| Explicabilidad | Alta — se entiende el peso de cada variable. | Baja — difícil saber por qué llegó a esa respuesta. |
| Performance | Generalmente menor en problemas complejos. | Generalmente mayor en problemas complejos. |
| Cuándo priorizar | Sectores regulados: crédito, salud, justicia. | Cuando la precisión importa más que justificar cada decisión. |
Explainability vs Performance07 / 17
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Herramienta · SageMaker
SageMaker Clarify
| Función | Qué hace |
|---|
| Detección de bias | Analiza los datos de entrenamiento y las predicciones en busca de sesgo hacia subgrupos. |
| Explicabilidad | Explica predicciones individuales usando SHAP (Shapley values) — cuánto aportó cada feature. |
| Cuándo se usa | Antes del entrenamiento (bias en datos) y después (bias en predicciones). |
SageMaker ClarifySHAP = SHapley Additive exPlanations08 / 17
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Concepto · Cómo explica Clarify
SHAP — cuánto pesó cada variable
| Aspecto | Detalle |
|---|
| Qué hace | Asigna a cada feature de una predicción individual un valor de contribución (positivo o negativo). |
| Origen | Basado en Shapley values, un concepto de teoría de juegos — reparte el "crédito" del resultado entre los jugadores (features). |
| Ejemplo | Un modelo de crédito rechaza una solicitud: SHAP muestra que "ingreso bajo" restó 0.32 y "deuda alta" restó 0.21 a la probabilidad de aprobación. |
| Dónde se usa | Dentro de SageMaker Clarify, para explicar predicciones puntuales — no solo el modelo en general. |
SHAPSHAP = SHapley Additive exPlanations09 / 17
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Herramienta · Documentación
SageMaker Model Cards
| Sección | Qué documenta |
|---|
| Propósito | Para qué sirve el modelo y qué casos de uso cubre. |
| Entrenamiento | Datos usados, algoritmo, hiperparámetros. |
| Evaluación | Métricas de desempeño obtenidas. |
| Limitaciones | Riesgos conocidos, casos donde el modelo no debe usarse. |
Model Cards10 / 17
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Herramienta · Servicios preentrenados
AWS AI Service Cards
Qué es
El equivalente a Model Cards, pero para servicios de IA pre-entrenados de AWS.
Ejemplos de servicio
Rekognition, Textract, Comprehend, Transcribe.
Quién las publica
AWS — son públicas, no las genera el usuario.
Diferencia clave
Model Cards = tu modelo. AI Service Cards = servicio ya entrenado por AWS.
AI Service CardsAI = Artificial Intelligence · IA = Inteligencia Artificial11 / 17
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Herramienta · Bedrock, visto desde RAI
Guardrails — safety y controllability en acción
| Pilar | Cómo lo implementa Guardrails |
|---|
| Safety | Bloquea contenido dañino: odio, violencia, auto-daño. |
| Controllability | El negocio define temas denegados y palabras prohibidas — control explícito. |
| Privacy | Detecta y redacta PII antes de que salga en la respuesta. |
| Veracity | Grounding check — verifica que la respuesta esté basada en la fuente. |
GuardrailsPII = Personally Identifiable Information12 / 17
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Concepto · Supervisión humana
Human-in-the-loop (HITL)
| Dónde aparece | Cómo funciona |
|---|
| Ground Truth | Etiquetado de datos combinando humano + asistido por ML. |
| Amazon A2I | Agrega flujos de revisión humana a predicciones de baja confianza. |
| Revisión de predicciones | Un humano valida decisiones de alto riesgo antes de ejecutarlas. |
| RLHF | Feedback humano usado para ajustar el comportamiento del modelo. |
Human-in-the-loopHITL = Human-in-the-Loop · ML = Machine Learning · A2I = Augmented AI · RLHF = Reinforcement Learning from Human Feedback13 / 17
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Gobernanza · Legal y ambiental
Gobernanza, legal y ambiental
Governance
Políticas internas, roles y responsables claros sobre el uso de IA en la organización.
Compliance
Cumplir regulación del sector (financiero, salud) — puede exigir explicabilidad por ley.
Impacto ambiental
Entrenar Foundation Models grandes consume mucha energía y agua.
Por qué importa en el examen
AWS lo incluye como parte explícita de "responsible AI", no solo lo técnico.
GobernanzaIA = Inteligencia Artificial · AI = Artificial Intelligence14 / 17
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Gobernanza · Riesgos legales de GenAI
Riesgos legales de la IA generativa
| Riesgo | Ejemplo |
|---|
| Propiedad intelectual | El modelo reproduce contenido protegido y la empresa enfrenta reclamos. |
| Salidas sesgadas | Respuestas discriminatorias que generan responsabilidad legal. |
| Pérdida de confianza | Un error público del modelo daña la reputación de la marca. |
| Riesgo al usuario final | Consejos médicos o financieros incorrectos que causan daño. |
| Alucinaciones | Información falsa presentada con certeza en un contexto que la exige veraz. |
Riesgos legales de GenAIGenAI = Generative AI · IA = Inteligencia Artificial15 / 17
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Repaso · Memorización
IA responsable, de un vistazo
| Concepto | En una frase |
|---|
| Bias | Sesgo que entra por datos, medición u observador. |
| Fairness | Mismo desempeño del modelo entre subgrupos, no solo en el agregado. |
| Explainability | Trade-off con performance — más simple, más explicable. |
| SageMaker Clarify | Detecta bias en datos y predicciones. |
| SHAP | Explica una predicción puntual — cuánto aportó cada feature. |
| Model Cards | Documentación estandarizada de tu propio modelo. |
| AI Service Cards | Documentación pública de los servicios preentrenados de AWS. |
| Guardrails | Implementación de safety/controllability/privacy dentro de Bedrock. |
| Human-in-the-loop | Supervisión humana proporcional al riesgo de la decisión. |
Tabla finalIA = Inteligencia Artificial · SHAP = SHapley Additive exPlanations · AI = Artificial Intelligence16 / 17
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Cierre · Guías de IA responsable
Listo para el siguiente dominio.
Siguiente bloque: Dominio 5 — Seguridad, cumplimiento y gobernanza de IA en AWS.
CierreIA = Inteligencia Artificial17 / 17
El bias puede colarse en tres puntos distintos: los datos, el algoritmo, o el humano que interpreta el resultado. No es un problema que se resuelve una sola vez.