AWS AIF-C01
Bedrock y SageMaker
Repaso para el examen AWS Certified AI Practitioner. Aplicaciones fundacionales: cuándo usar cada servicio, componentes clave y costos.
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Repaso · Agenda
Qué cubre este repaso
01Bedrock vs. SageMaker
La decisión central + cómo elegir un FM.
Decisión
02Componentes de cada servicio
Knowledge Bases, Agents, Guardrails, Studio, JumpStart, Canvas, Model Cards, Model Monitor...
Servicios
03Ciclo de vida, fine-tuning y evaluación
Variantes de adaptación, ROUGE, BLEU, BERTScore.
Proceso
04RAG, Agents, Guardrails y ataques
Cómo Bedrock automatiza cada pieza + riesgos de prompts.
Aplicado
05Costos y memorización
On-Demand vs. Provisioned Throughput + resumen final.
Cierre
AgendaFM = Foundation Model · ROUGE = Recall-Oriented Understudy for Gisting Evaluation · BLEU = Bilingual Evaluation Understudy · BERTScore = similitud semántica con embeddings BERT02 / 20
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Decisión · La pregunta central
Bedrock vs. SageMaker
| Aspecto | Bedrock | SageMaker |
| Qué es | Acceso administrado (serverless) a FMs de terceros/Amazon, vía API. | Plataforma completa de ML — construir, entrenar y desplegar modelos propios. |
| Infraestructura | Ninguna que gestionar. | Tú la gestionas (o delegas parcialmente). |
| Cuándo usarlo | Usar rápido un FM ya entrenado, sin servidores. | Entrenar desde cero o necesitas control granular del pipeline. |
| Modelos | Claude, Llama, Titan, Cohere, AI21, Stability AI. | Cualquier algoritmo/arquitectura, o FMs vía JumpStart. |
Bedrock vs SageMakerFM = Foundation Model · API = Application Programming Interface · ML = Machine Learning · AI = Artificial Intelligence03 / 20
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Decisión · Selección del modelo
Cómo elegir un Foundation Model
Modalidad y tarea
Texto, imagen, embeddings o multimodal — el modelo debe soportar lo que necesitas.
Costo y latencia
Los modelos más grandes son más capaces, pero más lentos y caros por token.
Contexto e idioma
Ventana de contexto suficiente para tus documentos y soporte del idioma de tus usuarios.
Personalización y región
¿Permite fine-tuning? ¿Está disponible en tu región y cumple tu compliance?
Criterios de selección de FM04 / 20
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Servicios · Bedrock
Componentes clave de Bedrock
| Componente | Qué hace |
| Model access / Playgrounds | Probar distintos FMs desde la consola, sin código. |
| Knowledge Bases | RAG administrado — conecta el FM a tus documentos sin armar tú el pipeline. |
| Agents | Orquestan tareas multi-paso — el modelo decide qué herramientas/APIs llamar. |
| Guardrails | Filtros de responsible AI: contenido dañino, temas prohibidos, PII. |
| Fine-tuning | Adaptar un FM base con tus propios datos, dentro de Bedrock. |
Componentes de BedrockFM = Foundation Model · RAG = Retrieval Augmented Generation · API = Application Programming Interface · AI = Artificial Intelligence · PII = Personally Identifiable Information05 / 20
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Servicios · SageMaker
Componentes clave de SageMaker
| Componente | Qué hace |
| Studio | IDE unificado para todo el ciclo de ML. |
| JumpStart | Catálogo de modelos preentrenados, incl. FMs open source, listos para desplegar o afinar. |
| Canvas | ML sin código — para usuarios de negocio, no data scientists. |
| Ground Truth | Etiquetado de datos, humano + asistido por ML. |
| Feature Store | Repositorio centralizado de features para entrenar/servir modelos. |
| Model Monitor | Detecta drift y degradación del modelo en producción. |
| Pipelines | Automatiza el flujo completo: datos → entrenamiento → despliegue. |
Componentes de SageMakerIDE = Integrated Development Environment · ML = Machine Learning · FM = Foundation Model06 / 20
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Servicios · Gobierno de modelos
SageMaker: gobierno de modelos
| Feature | Para qué sirve |
| Model Cards | Documenta cada modelo: usos previstos, riesgo, datos de entrenamiento y resultados de evaluación. |
| Model Dashboard | Vista central de todos tus modelos: despliegue, uso y desempeño. |
| Model Monitor | Vigila la calidad de datos y del modelo en producción; detecta drift. |
| Role Manager | Define permisos por rol de ML (data scientist, MLOps) con plantillas. |
| Model Registry | Versiona modelos y controla su aprobación antes de desplegar. |
| Clarify | Mide sesgo y explica predicciones (ver Dominio 4). |
Gobierno de modelos en SageMakerML = Machine Learning · MLOps = ML Operations07 / 20
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Proceso · No confundir con el ciclo de ML
El ciclo de vida de un Foundation Model
01Selección de datos
Datos masivos, diversos y de calidad para el pre-entrenamiento.
Datos
02Selección del modelo
Elegir el FM base según caso de uso, tamaño y costo.
Diseño
03Pre-entrenamiento
Aprendizaje general con datos masivos — lo hacen los grandes labs.
Modelo
04Adaptación
Prompt engineering, RAG o fine-tuning, según el caso.
Modelo
05Evaluación
Coherencia, relevancia, toxicidad — más allá de precision/recall.
Modelo
06Despliegue
Servir el modelo vía API (Bedrock) o endpoint (SageMaker).
Producción
07Monitoreo y feedback
Feedback humano (RLHF), reentrenar o reajustar.
Producción
Ciclo de vida de un FMML = Machine Learning · FM = Foundation Model · RAG = Retrieval Augmented Generation · API = Application Programming Interface · RLHF = Reinforcement Learning from Human Feedback08 / 20
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Adaptación · Más allá del fine-tuning básico
Variantes de fine-tuning
| Técnica | Qué hace | Datos |
| Fine-tuning | Ajusta los pesos del modelo para una tarea o estilo específico. | Etiquetados (prompt → respuesta). |
| Instruction tuning | Fine-tuning con instrucciones y respuestas para que siga órdenes mejor. | Etiquetados (instrucción → respuesta). |
| Continued pre-training | Sigue preentrenando con texto del dominio (jerga legal, médica, financiera). | Sin etiquetar, gran volumen. |
| Transfer learning | Reutiliza un modelo entrenado en una tarea como punto de partida para otra. | Pocos datos de la nueva tarea. |
| Distillation | Un modelo grande ("profesor") enseña a uno pequeño ("alumno"): más barato y rápido. | Salidas del modelo grande. |
Variantes de fine-tuningFM = Foundation Model09 / 20
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Evaluación · Métricas automáticas
Evaluar un FM: ROUGE, BLEU, BERTScore
| Métrica | Tarea típica | Cómo compara |
| ROUGE | Resumen de texto | Solapamiento de palabras/n-gramas entre el resumen del modelo y uno de referencia. |
| BLEU | Traducción | Coincidencia de n-gramas con traducciones de referencia (enfocada en precisión). |
| BERTScore | Cualquier generación | Similitud semántica vía embeddings: capta el significado, no solo las palabras exactas. |
Métricas de evaluación de FMFM = Foundation Model · ROUGE = Recall-Oriented Understudy for Gisting Evaluation · BLEU = Bilingual Evaluation Understudy · BERTScore = similitud semántica con embeddings BERT10 / 20
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Evaluación · Más allá de las métricas
Evaluación humana, benchmarks y Bedrock
Evaluación humana
Personas califican coherencia, relevancia, tono y utilidad — lo que las métricas automáticas no capturan.
Benchmark datasets
Conjuntos estándar (ej. GLUE, MMLU, HELM) para comparar modelos de forma objetiva.
Bedrock Model Evaluation
Evalúa modelos de forma automática o con revisores humanos: exactitud, robustez, toxicidad.
Qué evaluar
Calidad de la respuesta, relevancia, alucinación, toxicidad, costo y latencia — según el caso de negocio.
Evaluación humana y BedrockGLUE = General Language Understanding Evaluation · MMLU = Massive Multitask Language Understanding · HELM = Holistic Evaluation of Language Models11 / 20
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Bedrock · RAG administrado
Knowledge Bases — RAG sin construirlo tú
| Elemento | Qué configuras tú |
| Fuente de datos | Un bucket S3 con tus documentos. |
| Vector store | OpenSearch Serverless, Aurora PostgreSQL, Neptune Analytics, Pinecone, Redis o MongoDB. |
| Embedding model | Ej. Titan Embeddings. |
| Chunking | Tamaño de fragmento — configurable. |
| Retrieval + augmentation | Automatizado por Bedrock — no lo armas tú. |
Knowledge BasesRAG = Retrieval Augmented Generation · S3 = Simple Storage Service12 / 20
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Bedrock · Orquestación
Agents — el modelo decide qué hacer
| Concepto | Qué es |
| Agent | Orquesta una tarea multi-paso usando un FM como "cerebro" de decisión. |
| Action groups | Conjunto de APIs / funciones Lambda que el agente puede invocar. |
| Orchestration | El agente decide en qué orden llamar cada herramienta. |
| Ejemplo | "Reserva un vuelo y un hotel" → llama a la API de vuelos, luego a la de hoteles. |
AgentsFM = Foundation Model · API = Application Programming Interface13 / 20
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Bedrock · Responsible AI
Guardrails — los filtros de seguridad
| Tipo de filtro | Qué bloquea |
| Contenido dañino | Odio, violencia, contenido sexual, auto-daño. |
| Temas denegados | Temas específicos definidos por el negocio (ej. consejos legales). |
| PII | Información personal identificable — redacta o bloquea. |
| Palabras prohibidas | Lista de palabras o frases específicas. |
| Grounding check | Verifica que la respuesta esté basada en la fuente — anti-alucinación. |
GuardrailsAI = Artificial Intelligence · PII = Personally Identifiable Information14 / 20
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Seguridad · Riesgos de prompts
Ataques a prompts
| Ataque | Qué es | Defensa típica |
| Prompt injection | Instrucciones maliciosas en el input que reemplazan las del sistema. | Validar entradas, separar instrucciones de datos. |
| Jailbreaking | Saltarse las restricciones de seguridad del modelo (ej. juegos de rol). | Guardrails, filtros de contenido. |
| Hijacking | Redirigir al modelo para que cumpla el objetivo del atacante. | Mínimo privilegio en herramientas y agentes. |
| Poisoning | Contaminar los datos de entrenamiento o de RAG con contenido malicioso. | Validar y controlar las fuentes de datos. |
| Prompt leaking | Hacer que el modelo revele su system prompt o datos internos. | No poner secretos en el prompt; guardrails. |
Ataques a promptsRAG = Retrieval Augmented Generation · IAM = Identity and Access Management15 / 20
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
SageMaker · Dos audiencias
JumpStart vs. Canvas
| Aspecto | JumpStart | Canvas |
| Usuario objetivo | Data scientists / developers. | Usuarios de negocio, sin código. |
| Qué hace | Catálogo de modelos preentrenados listos para desplegar o afinar. | Interfaz visual para construir modelos de ML sin escribir código. |
| Nivel de control | Alto — acceso a notebooks y código. | Bajo — todo vía interfaz. |
JumpStart vs CanvasML = Machine Learning16 / 20
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Ecosistema · Otros recursos
Otros recursos de Gen AI en AWS
| Servicio | Qué es |
| Amazon Q | Asistente de IA generativa de AWS (para desarrolladores y para negocio) — construido sobre Bedrock. |
| PartyRock | Playground gratuito de Bedrock para experimentar sin código. |
Otros recursosGenAI = Generative AI · AI = Artificial Intelligence · IA = Inteligencia Artificial17 / 20
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Costos · Bedrock
On-Demand vs. Provisioned Throughput
| Modo | Qué es | Cuándo usarlo |
| On-Demand | Pagas por token usado (input + output), sin compromiso. | Cargas variables, empezar rápido, bajo volumen. |
| Provisioned Throughput | Reservas capacidad fija por un período, pago fijo. | Cargas altas y predecibles, necesitas throughput garantizado. |
Costos de Bedrock18 / 20
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Repaso · Memorización
Bedrock y SageMaker, de un vistazo
| Concepto | En una frase |
| Bedrock | Acceso administrado a FMs, sin servidores que gestionar. |
| SageMaker | Plataforma completa para construir y entrenar modelos propios. |
| Knowledge Bases | RAG administrado, dentro de Bedrock. |
| Agents | Orquestan tareas multi-paso llamando herramientas/APIs. |
| Guardrails | Filtros de responsible AI (contenido, PII, grounding). |
| JumpStart | Catálogo de modelos preentrenados en SageMaker. |
| Canvas | ML sin código, para usuarios de negocio. |
| On-Demand vs. Provisioned | Pago por uso vs. capacidad reservada garantizada. |
Tabla finalFM = Foundation Model · RAG = Retrieval Augmented Generation · API = Application Programming Interface · AI = Artificial Intelligence · PII = Personally Identifiable Information · ML = Machine Learning19 / 20
HG Hugo Gutierrez
AWS AIF-C01 · AI Practitioner
Cierre · Bedrock y SageMaker
Listo para el siguiente dominio.
Siguiente bloque: Dominio 4 — Guías de IA responsable (fairness, transparencia, explicabilidad).
CierreIA = Inteligencia Artificial20 / 20
"Registro con usos previstos y riesgos" = Model Cards. "Ver todos los modelos en un lugar" = Dashboard. "Detectar drift" = Monitor. "Permisos por rol" = Role Manager.