Office Hours — Dante Téllez

La cohorte de la franja de Asia-Pacífico (miércoles 23:00 UTC) y, en contenido, la más rigurosa del curso: cifra cada afirmación, cita la fuente, distingue lo medido de lo estimado y advierte explícitamente cuándo un número es direccional y no universal. Enlaces en Sesiones en directo › Office Hour con Dante Téllez.

---

Semana 1 — Fundamentos

13/07/2026 · Módulo 1. Sesión mayoritariamente de demostración en vivo: generación de imagen y vídeo, presentaciones, análisis de datos y de documentos. Introduce tres tipos de IA —predictiva, generativa y agéntica— y varios recursos de seguimiento del sector: el ranking de LMArena, el seguimiento de coeficiente intelectual de los modelos, y una calculadora de costes de LLM propia del MIT.

Cierra con una pregunta que reaparecerá toda la serie: ¿por qué se equivoca la IA si está a nivel de genio?

Semana 2 — Plataformas, modelos y arquitectura

15/07/2026 · Módulo 2.

2023: la IA te respondía. 2026: la IA trabaja por ti. La pregunta ya no es «¿qué sabe hacer el modelo?» sino «¿qué le dejamos ejecutar, con qué supervisión y a qué coste?»

Qué es un agente, en serio

Un agente no es un chatbot con marketing: percibir → razonar → actuar → verificar, y vuelta a empezar, sin intervención humana en cada paso, hasta cumplir el objetivo. Un chatbot produce texto; un agente produce resultados.

Los cuatro ingredientes: herramientas (sin herramientas no hay acción, solo opinión), memoria (recordar qué hizo, qué falló y qué prefiere el usuario, entre pasos y entre sesiones), planificación multipaso (y replanificar cuando algo sale mal) y supervisión (autonomía con frenos — aquí vive el riesgo**).

La letra chica que las empresas subestiman: observabilidad (si no puedes ver qué hizo el agente y por qué, no puedes auditarlo ni mejorarlo), evaluaciones («se ve bien en la demo» no es una métrica), coste por tarea (el piloto barato puede ser el producto caro) y guardarraíles (definir qué no puede hacer el agente es tan importante como definir qué sí).

Cuatro familias de plataformas —agentes de programación, propósito general, no-code/low-code y frameworks— con el criterio de elección: la pregunta correcta no es «¿cuál es mejor?» sino «¿quién lo va a operar y qué tan crítico es el proceso?»

Abierto o cerrado: la precisión que falta en casi todas partes

Qué compras con cada opción. Abierto: control total de datos (nada sale de tu infraestructura), personalización, sin dependencia de proveedor, coste marginal bajo a gran volumen. Cerrado: frontera de capacidad, cero mantenimiento, seguridad gestionada, de idea a producción en días. Pagas con talento e infraestructura propios, o con dependencia, datos fuera de casa y coste recurrente.

Cuatro preguntas antes de elegir: ¿qué tan sensibles son los datos? ¿necesitas capacidad de frontera? ¿tienes talento para operarlo —sin equipo de aprendizaje automático, el coste real del abierto se dispara—? ¿cuál es tu volumen? La respuesta real casi siempre es híbrida: cerrado para lo complejo y de bajo volumen, abierto para lo masivo y lo sensible.

Y añade la capa que no aparece en el benchmark: soberanía de datos, el Reglamento de IA de la UE y los bloques tecnológicos. Elegir modelo es, cada vez más, elegir ecosistema.

¿Un agente o muchos?

Un agente + buenas herramientas resuelve el 80 %. Un solo contexto (nada se pierde en traducciones entre agentes), fácil de depurar (con cinco agentes, ¿quién se equivocó?) y más barato. La complejidad se agrega cuando el problema la exige, no cuando la arquitectura se ve impresionante en el diagrama.

Los cuatro patrones multiagente, cuando sí escalas: orquestador-trabajadores, canalización secuencial (filtrar → evaluar → redactar), debate y crítica (uno genera, otro critica — útil en decisiones de alto riesgo) y subagentes especializados con herramientas y permisos distintos.

El trade-off en números (mediciones de Anthropic, 2025 — órdenes de magnitud, no promesas):

El multiagente tiene que generar 15 veces más valor para justificarse. A veces lo hace. Casi siempre, no.

Vibe coding, con el espectro completo

Recupera la cita original de Karpathy (febrero de 2025) —«entrégate por completo a las vibras, abraza los exponenciales y olvida que el código existe»— y añade: lo dijo medio en broma; doce meses después era una categoría de producto, una estrategia de startups y un dolor de cabeza de seguridad.

No es todo o nada: el espectro de autonomía va de autocompletado (la IA sugiere, tú escribes cada línea) → chat asistido (pides fragmentos, los copias, los entiendes) → programación agéntica (el agente edita archivos y corre pruebas, tú revisas el código) → vibe coding puro (describes, aceptas, nunca miras el código).

La pregunta profesional es «¿en qué punto del espectro debe estar cada tarea?», no «¿cuál es mi estilo?»

La factura llega después, con casos reales de 2025–2026: secretos expuestos (auditorías encontraron claves de API incrustadas en el código del cliente, visibles para cualquiera), bases de datos abiertas («funcionaba» — para todos), deuda técnica invisible (el coste no desaparece: se transfiere al que lo mantiene después) y falsa sensación de terminado (la demo funciona ≠ el sistema es correcto, seguro y escalable; el caso feliz es el 20 % del trabajo**).

Vibe coding con cinturón de seguridad: especificar primero (un párrafo claro vale más que diez correcciones después), iterar en pasos chicos, pruebas como red (si no lees el código, al menos verifica el comportamiento — las pruebas son tu contrato) y revisión humana sin excepción en seguridad, datos personales y dinero.

Semana 3 — Conectar agentes a sistemas reales

22/07/2026 · Módulo 3.

Los módulos anteriores preguntaban qué puede hacer un agente. Este pregunta algo más difícil: ¿dónde encaja, sin romper lo que ya funciona?

El choque con lo heredado

La anatomía de cualquier flujo, en cinco momentos que se repiten en toda industria: disparador → contexto → decisión → acción → entrega. Y la clave: un agente no reemplaza el flujo completo — se inserta en uno o dos de esos nodos. El resto sigue funcionando como siempre.

Tres puntos de inserción posibles: el punto de decisión (sustituir un juicio rutinario), el punto de fricción (automatizar lo que todos odian) y el punto de entrega (el agente arma el borrador, el humano aprueba).

Empezar por el punto de fricción es la apuesta de menor riesgo: nadie extraña un paso que ya odiaba hacer.

El punto de salida —cuándo el agente entrega el control— se decide antes, no después: confianza baja, excepción no contemplada, umbral de riesgo (dinero, datos sensibles, decisión sobre una persona) y solicitud explícita del usuario, señal que siempre gana, sin excepción.

Definir el criterio de salida antes de construir evita que el primer incidente sea quien lo defina por ti.

El patrón que resuelve casi todo

Agente → Capa adaptadora → Sistema heredado

La capa adaptadora traduce, valida y registra cada llamada. El agente nunca toca el sistema heredado directamente — y el sistema heredado nunca ve al agente. Es más trabajo al inicio, pero permite cambiar de modelo, de proveedor de agente o de sistema heredado sin reescribir la integración completa.

Cuatro fricciones al salir del laboratorio: datos heterogéneos, permisos y autenticación («acceso total» es la forma más rápida de crear un incidente), latencia y fiabilidad (los sistemas heredados no fueron diseñados para llamadas agénticas de alta frecuencia) y versionado y deriva (las APIs cambian; el agente que funcionaba ayer puede fallar en silencio hoy).

Cuatro patrones que evitan tumbar el sistema legado: idempotencia (repetir una acción no debe duplicar el resultado — crítico cuando el agente reintenta), reintentos con retroceso, cortacircuitos (cortar las llamadas antes de saturar un sistema que ya responde lento) y colas asíncronas.

Y la decisión construir o comprar: plataformas de integración (Zapier, Workato, n8n) para volumen bajo-medio y equipos no técnicos; servidores MCP de terceros cuando el proveedor ya expone lo que necesitas; adaptador propio para sistemas críticos y requisitos de auditoría. No es una decisión permanente: muchas empiezan con una plataforma y migran cuando el proceso se vuelve crítico.

El caso MCP de Spotify

MCP conecta herramientas — no rediseña el sistema detrás de ellas. Un servidor MCP expone las funciones de un sistema como herramientas que un agente puede llamar, pero el sistema detrás sigue siendo el mismo, con las mismas reglas, límites y comportamientos inesperados. No es una API diseñada para IA: es una API pensada para apps, adaptada después.

Tres costuras que ninguna documentación describe bien:

1. Estado que cambia fuera de tu vista. El usuario pausa la música desde el teléfono; el agente no se entera hasta la siguiente llamada. Un sistema con estado mutable externo rompe el supuesto de «yo controlo esta herramienta».
2. Límites de tasa silenciosos. La API responde 429 al exceder el límite; si el agente no respeta el reintento sugerido, falla en cascada — y el límite casi nunca está documentado con precisión.
3. Cobertura parcial. No todo lo que ves en la app está expuesto en la API: el agente choca con paredes que la interfaz humana no tiene.

Trata cualquier servidor MCP de terceros como un contrato con huecos. Prueba los bordes, no solo el camino feliz: el estado que cambia solo, el límite que no está documentado y la función que la app tiene pero la API no — ahí es donde falla en producción, nunca en la demo.

Los dos estándares emergentes: MCP como «el USB-C de los agentes» —creado por Anthropic en noviembre de 2024, adoptado por OpenAI, Google y Microsoft en 2025, hoy el estándar de facto para agente ↔ herramientas— y A2A (agent-to-agent), impulsado por Google en 2025 y donado a la Linux Foundation, para que agentes de distintos proveedores se descubran, negocien y colaboren. Los estándares reducen la dependencia: una inversión en herramientas MCP sobrevive aunque cambies de modelo.

RAG avanzado y grafos de conocimiento

Distingue el RAG básico (cargar → parsear con reglas → fragmentar → generar embeddings → persistir en base vectorial; luego embeber consulta → búsqueda por similitud → pasar al prompt) del RAG avanzado, que añade parseo y fragmentación basados en modelo, grafos generados por LLM, múltiples embeddings, base vectorial más base de grafos, transformación de consulta, enrutamiento a agentes, reordenadores personalizados, búsqueda híbrida, recorrido del grafo, guardarraíles, control de acceso por rol o atributo y evaluación con Ragas.

Sobre GraphRAG: aporta comprensión contextual de las relaciones entre componentes, descubrimiento automático de relaciones y expansión continua de la base de conocimiento. Permite responder preguntas que el RAG plano no puede: «¿qué diferencias clave hay entre los sistemas X e Y?», «si el componente A falla, ¿qué otros componentes podrían verse afectados?»

Tono y empatía como decisión de ingeniería

El tono no es un lujo estético — es una decisión de ingeniería con consecuencias medibles.

Cuatro palancas: temperatura y verbosidad, persistencia de persona (el mismo tono en la conversación 1 y en la 100), guiones de desescalada preparados, no improvisados en el momento, y lenguaje de rechazo — cómo decir «no» o «todavía no» sin sonar evasivo ni robótico.

El salto físico: IoT

Un error de software se deshace con Ctrl+Z. Un error físico no siempre se puede deshacer. Cuatro restricciones que impone el mundo físico: tolerancia a la latencia, conectividad intermitente (el sistema debe seguir funcionando cuando se cae la nube — no puede depender de ella), modos de fallo críticos (algunos errores no son «inténtalo de nuevo», son riesgo de seguridad física inmediato) y las consecuencias de una alucinación: un dato inventado en un chat es un error; un dato inventado que abre una puerta es un incidente.

El patrón: sensor → guardarraíl local (borde) → acción inmediata o consulta a la nube. Lo que toca seguridad física inmediata se decide en el borde, sin depender de la nube.

Semana 4 — Ciberseguridad

29/07/2026 · Módulo 4.

Treinta años asegurando sistemas. Un agente te pide asegurar el criterio.

La ingeniería social en cinco pasos —reconocer → pretexto → contacto → confianza → transferir— con la observación exacta: la IA generativa no añade un paso; hace cada paso más barato, más rápido y más personal. Y la consecuencia: ahora vale la pena hacerlo contra ti, no solo contra una Fortune 500.

Diez riesgos de LLM aplicados al agente: inyección de prompt, fuga de información sensible, cadena de suministro, envenenamiento de datos, manejo indebido de la salida, agencia excesiva, fuga del prompt de sistema, debilidad de embeddings, desinformación y consumo sin límite (coste y «denegación de billetera»).

El ejemplo del caso conductor es el currículum envenenado: carga → parseo → ranking → preselección → envío, con una instrucción oculta en el CV que secuestra el ranking.

Sobre permisos: cada agente que despliegas es un nuevo empleado, y el radio de daño crece en silencio por herramientas que ya no se usan pero siguen conectadas, escritura donde bastaba lectura y ausencia de confirmación.

Seis capas de defensa, y ninguna basta por sí sola, con tres reglas destacables:

• La respuesta del agente es entrada no confiable al siguiente paso. Escápala y parametriza siempre; expón verbos, no una consola; valida contra un esquema.
• No puedes investigar lo que nunca registraste. Prompt, recuperación y llamadas enlazados por un identificador de ejecución.
• Credenciales acotadas y efímeras: estrechas, tipadas, reversibles.

Semana 5 — Madurez y funciones de negocio

05/08/2026 · Módulo 5.

Además del ciclo de madurez —explorar → pilotar → escalar → integrar → institucionalizar, cinco fases que vuelves a correr en cada función— aporta algo que ninguna otra cohorte: un organigrama completo de una oficina de IA y datos (arquitectura, ingeniería y MLOps, inteligencia y calidad, modelos, gestión de producto) y un catálogo detallado de los errores más comunes al implementar una estrategia de IA:

falta de madurez de negocio en adopción y usabilidad · falta de capacidades humanas · expectativas, plazos e impactos no alineados · falta de KPI estandarizados · herramientas no diseñadas para la democratización · falta de un modelo eficiente de operaciones de IA · roles mal definidos (ingeniero de IA, ingeniero de datos, científico) · productos de IA no escalables · estrategia de negocio no alineada con la estrategia de IA.

Y en gobernanza de datos: falta de contexto de negocio para preparar y transformar, replicación innecesaria, fuentes dispares sin cardinalidad, deuda técnica que obstaculiza la integración con tecnología nueva, linaje y monitorización escasos o nulos, catálogos poco claros, sistemas de origen no diseñados para fines analíticos, y —la más humana— quienes eligen las herramientas no son quienes las usan: la mentalidad de que una talla sirve para todos.

Semana 6 — La última milla, y la factura

12/08/2026 · Módulo 6. La sesión más original de todo el curso.

La demo funcionó. El piloto impresionó a todos. Después no pasó nada durante nueve meses. Este módulo trata de la distancia entre esos dos hechos.

Un piloto prueba que puede funcionar. Solo la última milla prueba que funciona.

Agentes de voz

El ciclo —detectar fin de turno → transcribir → pensar → hablar— debe cerrarse antes de que el silencio se note: la conversación humana corre en una ventana de 300–500 ms, y pasado un segundo se siente rota.

Cuatro fallos que nunca aparecen en la demo: la persona interrumpe, el agente corta a la gente, el traspaso a un humano pierde todo el contexto, y ruido, acentos y malas conexiones.

Tokenmaxxing: cuando el consumo se confunde con productividad

El tokenmaxxing es lo que ocurre cuando una organización trata el consumo de tokens como sustituto de la productividad de ingeniería: cuantos más tokens quema un ingeniero —prompts más largos, sesiones de agente en paralelo, llamadas a modelos premium, bucles recursivos de depuración— más productivo se le supone.

Dos titulares que ilustran el problema: un solo empleado generó una factura de IA de 38.000 dólares en tres horas, y una empresa gastó 500 millones de dólares en Claude en un solo mes por no poner límites al uso de licencias.

Tres lentes sobre la misma factura:

Ingeniería gasta 5,5 veces más que el siguiente departamento. Si solo vas a instrumentar el presupuesto de tokens de un equipo, instrumenta ese.

Y: la revisión cuesta 7 veces más que la generación. La factura no es «la IA escribió código», es la IA releyendo, dudando de sí misma y reenviando su propio trabajo.

El dinero recuperable: −90 % con caché de prompts sobre prefijos estables · −50 % procesando por lotes todo lo no interactivo · −42 % curando el contexto en lugar de volcarlo · −29 a −44 % limitando reintentos y longitud de trayectoria. Objetivos: menos del 5 % de tasa de reintento y menos del 10 % de desperdicio de salida.

Las seis métricas que sustituyen a «tokens totales»

«Tokens totales del equipo» es una métrica de factura. Estas seis son métricas de ingeniería:

Cómo operarlo: panel por equipo y revisión semanal de quince minutos. El presupuesto de tokens es una señal de diagnóstico, no un límite duro que castigue experimentar.

Monitorización y observabilidad

Necesitas ambas, y los equipos suelen comprar solo la primera. Un panel que dice que la calidad cayó un 6 % el martes es inútil sin las trazas que muestran qué llamada empezó a devolver basura.

Cuatro niveles de métrica: resultado (¿se resolvió el problema del usuario? — el único nivel que de verdad le importa al negocio), calidad (fidelidad, corrección de herramienta, relevancia de la recuperación — medidas por paso, no solo al final), operativo (escalamiento, reintentos, argumentos inválidos, percentiles de latencia) y económico (coste por caso resuelto: un agente que funciona pero no paga sigue siendo un despliegue fallido).

Empieza en el nivel 1 y baja. Los equipos que empiezan en el nivel 3 terminan con paneles preciosos que no responden si vale la pena conservarlo.

Referencias aproximadas para 2026 —números para calibrarte, no metas para copiar—: tasa de automatización del 55–70 % en soporte de nivel 1 bien estructurado (los mejores despliegues llegan a los ochenta y tantos); curva de mejora de ~1 punto por mes en flotas grandes, señal de que lo que compone es el bucle, no el modelo; escalamiento a la baja y limpio, donde importa más la tendencia que el nivel, y un buen traspaso vale más que uno raro; y latencia de voz siempre en P50 y P95, porque la mediana halaga y el percentil 95 es la llamada que el cliente recuerda.

El bucle que compone: observar → diagnosticar → arreglar → añadir una evaluación → desplegar.

La resistencia, con números

Cerca del 38 % de la dificultad es la gente. Alrededor del 16 % es técnica. Y quienes autorizan el despliegue son los más confiados sobre él.

Sobre la IA en la sombra da la vuelta al marco habitual: el uso no autorizado es una señal de producto, no un problema de cumplimiento. Casi todos ya lo hacen, con datos confidenciales; si ocurre, tu herramienta oficial está perdiendo. Estúdialo y recupéralos: el uso en la sombra es un mapa.

Cuatro patrones de fracaso enteramente autoinfligidos: anunciar y luego callar (un silencio largo tras el anuncio), mandos medios sin información, pilotos llenos solo de entusiastas y programas que terminan en el lanzamiento.

Semana 7 — Gobernanza, cumplimiento y pruebas

19/08/2026 · Módulo 7. Se adelantó a la publicación del módulo, hoy extraído en M7 Gobernanza, cumplimiento y pruebas de agentes.

La gobernanza no es el freno del proyecto. Es la razón por la que se le permite seguir.

Cubre los marcos regulatorios de privacidad —se solapan, y cumplir con uno no satisface a los otros—, el Reglamento de IA de la UE (transparencia, marcado de contenido, el anexo III de alto riesgo, el anexo I) y cinco reglas viejas que los agentes rompen de formas nuevas. Sobre Estados Unidos: sin ley federal de IA, los estados escriben tus reglas — y un filtro de currículums es el ejemplo de manual: empleo, una persona, un resultado adverso.

Evaluar un agente no es evaluar una función: hay que probar la respuesta, el camino y cada parte por separado. Y sobre el LLM como juez —escalable, indispensable y sesgado en silencio—:

Tu juez también es un sistema. Pruébalo contra humanos antes de creerle. La práctica común es exigir una correlación de 0,7 o mejor con puntuaciones humanas antes de dejar al juez sin supervisión. Y fija la versión del juez, y alerta cuando cambie.

La escalera de evaluación, de lo barato y seguro a lo caro y sabio: verificaciones deterministas → juez ligero → juez frontera → revisión humana.

Tres puertas antes de que un cambio llegue a todos: repetición del conjunto dorado → canario → A/B → lanzamiento completo. Con la observación sobre el conjunto dorado: crece cada vez que producción te avergüenza — y ese crecimiento es justo el punto.

Cinco peldaños de autonomía —y no tienes que elegir uno para todo el agente—: sugerir → redactar → aprobar y actuar → actuar y avisar → actuar solo. Tres preguntas deciden el peldaño, entre ellas si el efecto es reversible y si la misma acción a escala de lote cambia la respuesta.

Cinco artefactos de documentación que responden casi toda pregunta que te harán: qué corremos y por qué · qué es y qué no es el sistema · a quién podría dañar · prueba de que se evaluó · qué hizo realmente. Con un aviso operativo: decide la conservación de registros antes de lanzar; no puedes registrar hacia atrás. Y una recomendación: no inventes tu propio vocabulario de gobernanza — usa el del NIST (gobernar, mapear, medir, gestionar), la norma certificable de sistemas de gestión de IA y el conjunto documental de alto riesgo.

Semana 8 — Ética

26/08/2026 · 112 min · Módulo 8. La mejor sesión sobre ética de todo el curso, y con diferencia. Donde el módulo 8 del campus resume, esta la desarrolla en cinco secciones y 31 diapositivas, con teoremas, casos y una advertencia de entrada:

«El módulo 7 preguntaba si tu agente es legal. Este hace una pregunta más difícil que ningún regulador te responderá: si está bien — y quién lo decide.»
«No te dará una lista de verificación. La ética no es un cumplimiento más estricto: es el conjunto de decisiones que quedan una vez satisfecho el cumplimiento, y te tocan a ti.»

La premisa incómoda

Todo en este módulo es legal. Justo por eso es difícil.

Lo ilegal es un problema de cumplimiento y ya se sabe qué hacer con ello. La sesión trata de decisiones enteramente lícitas que aun así dejan a alguien peor — y de quién en la organización tiene permitido decirlo.

Sección 1 — Dónde termina el cumplimiento y empieza la ética

Ambos importan y fallan distinto: los fallos de cumplimiento producen multas; los éticos producen la historia que sobrevive a la multa — y suele descubrirlos un periodista, no un auditor.

Cuatro huecos estructurales que la ley no puede cubrir:

La consecuencia práctica: alguien en tu organización ya está tomando estas decisiones —un ingeniero que elige un umbral, un jefe de producto que define un alcance—. La pregunta es si lo hace deliberada o accidentalmente.

Sección 2 — Equidad: el teorema que obliga a elegir

La sección más técnica y la más valiosa. No trata de estar en contra del sesgo, sino de un resultado matemático.

Las tres preguntas que deberían guiar la elección:

1. ¿Qué error duele más? Un candidato rechazado por error y uno contratado por error no son daños simétricos. Decide cuál minimizas, explícitamente.
2. ¿Quién lo absorbe? Si el costo del error recae por completo en la persona y nada en ti, ponderálo en consecuencia — ella no eligió este sistema.
3. ¿Por qué difieren las tasas base? «La pregunta que los equipos se saltan.» Si la diferencia histórica refleja discriminación pasada, reproducirla fielmente es automatizarla. Un modelo que reproduce a la perfección tu historial de contratación no es objetivo: es un espejo muy preciso, y los espejos no corrigen nada.

Y dos tipos de justicia, porque un resultado justo puede llegar por un proceso injusto:

«La gente acepta resultados adversos mucho mejor que resultados opacos. Buena parte de lo que se reporta como "la IA fue injusta" es procedimental, no distributivo.»

Sección 3 — Responsabilidad y la brecha de rendición de cuentas

La brecha de responsabilidad: responder exige conocimiento y control; la autonomía quita ambos y deja el daño. Lo nombró Matthias en 2004 y hoy es del todo práctico: el sistema actúa de formas que nadie predijo ni dirigió por completo, y aun así la persona dañada conserva un reclamo legítimo contra alguien.

Tres propiedades de los agentes que ensanchan la brecha: autonomía (las decisiones que importaron —permisos, alcance, puntos de revisión— se tomaron aguas arriba, por gente que no estará en la sala) · velocidad (decenas de acciones consecuentes mientras una persona revisa una alerta) · opacidad (puedes reconstruir qué hizo, rara vez por qué). Juntas colocan al humano más cercano en una posición imposible: responsable de una decisión que no tomó, no pudo evitar y no puede explicar.

El costo real: culpar a la persona cierra la investigación. La sesión invoca el trabajo de James Reason sobre accidentes organizacionales —el fallo activo es el detonante, las condiciones latentes son el sistema—: cada incidente cerrado como "error humano" acumula esas condiciones para un fallo mayor, «y le enseña a todos que acercarse a la IA es peligroso para la carrera».

Tres rediseños — la responsabilidad es una estructura que construyes, no una virtud que esperas:

Lo que logra nombrar a un dueño antes de que algo salga mal: «quien sabe que será nombrado hace preguntas mucho mejores en el despliegue — sobre permisos, monitoreo y escalamiento».

Sección 4 — Trabajo, dignidad y el costo humano

«La pregunta ética más difícil de este curso no es sobre un modelo. Es sobre qué le debes a las personas cuyo trabajo estás automatizando.»

Cómo leer las cifras laborales con cuidado:

Nota honesta: «las decisiones de contratación se toman tanto en anticipación de la IA como por causa de ella. Parte de lo que se atribuye a la capacidad es en realidad expectativa.»

El desplazamiento es una decisión, no un clima. La misma capacidad admite elecciones muy distintas:

«Rechazar la voz pasiva es todo el punto: "el puesto fue eliminado" describe una decisión que tomó una persona — normalmente alguien que pudo haberla tomado distinto.»

Tres daños que no tocan la nómina: vigilancia (sistemas que monitorean, puntúan y ordenan continuamente cambian la experiencia del trabajo mucho antes que el organigrama) · descualificación (cuando la herramienta casi siempre acierta, la gente deja de revisar y pierde la competencia que hacía significativa la supervisión) · sentido (un puesto despojado de todo salvo revisar salidas de máquina sigue siendo un puesto; suele ser uno peor, y nadie lo midió).

Sección 5 — Construir una práctica ética

Por qué fallan los principios. «Sé justo, transparente, centrado en lo humano» — nadie ha estado nunca en desacuerdo con eso. Los principios fallan no por ser incorrectos sino por ser infalsables: nunca te dicen a qué renunciar. Un principio que jamás te ha hecho cancelar nada es decoración. La ética aparece como compensaciones o no aparece.

Cuatro lugares donde un compromiso ético se vuelve real:

Quién está en la sala — casi todo fallo ético es antes un fallo de representación: los afectados (candidatos rechazados, reclamantes denegados, personal de primera línea: los únicos que viven los modos de fallo y casi nunca se les consulta) · quien disiente (alguien pagado por objetar, con el argumento en contra asignado explícitamente, para que discrepar sea un rol y no un riesgo de carrera) · quien lo opera (conoce los atajos, los casos límite y dónde se rompe el proceso en silencio, y rara vez está en la junta de diseño).

La disciplina más difícil: decide qué no vas a construir antes de que alguien te pida construirlo. Las líneas rojas escritas por adelantado sobreviven a la presión comercial; las que se trazan durante un negocio, no. La prueba de un límite real es que te ha costado algo — una funcionalidad, un cliente, un trimestre. «Si nunca ha sido así, aún no lo has encontrado.»

Actividad de cierre (25 min) — el agente de reclutamiento, una última vez

Tu agente es legal, está probado, documentado y funciona. También avanza candidatos que se parecen a quienes ya contrataste. Nada está roto.

Tres decisiones obligatorias: 1) qué definición de equidad eligen — y a qué renuncian explícitamente al elegirla; 2) si mañana rechaza a alguien por error, quién responde y qué examina la revisión; 3) cuál es la línea roja de este agente — y qué les costaría sostenerla.

Otros materiales de la sesión

El mazo intercala una serie de referencias externas y un bloque de casos que no están en el módulo:

Cinco ideas para llevar

1. Más allá de la ley — lo legal es un piso, no una respuesta. Explícale la decisión a quien la sufre; si eso te avergüenza, cambia la decisión.
2. Equidad — tienes que elegir, es un teorema. Pregunta qué error duele más, quién lo absorbe y por qué difieren las tasas base.
3. Responsabilidad — la culpa cae en el humano más cercano. Nombra al dueño antes de lanzar; revisa la organización, no al individuo.
4. Trabajo — el desplazamiento es una decisión. Automatizar el trabajo junior consume la cantera de pericia que necesitarás.
5. Práctica — la ética son valores por defecto, compuertas y líneas rojas. Un principio que nunca te ha costado nada todavía no es un principio.

---

Enlaces

Sesiones en directo · Webinars de facultad · OH Sara Artigas · OH Daniel Garrote · MCP · RAG · sistema multiagente · Vibe coding · IA en la sombra