Caso extremo

Escenario raro o inusual que se sale de las condiciones normales de funcionamiento y pone a prueba los límites del sistema. En integración de agentes son las situaciones para las que la aplicación nunca fue diseñada, y resolverlas es la condición para que una integración pueda considerarse sólida y lista para empresa.

En el curso

Módulo 3 — da nombre al capítulo 3, "Spotify MCP y otros casos extremos de integración de agentes". El módulo los define específicamente en el contexto del MCP y da tres tipos: entornos con acceso limitado a internet, tipos de dispositivo no compatibles y solicitudes inusuales que exigen lógica adaptativa. Lo que tienen en común es que llevan las interacciones más allá de los casos de uso previstos y, por tanto, miden la flexibilidad real del protocolo.

El módulo ofrece además material de contraste en otros capítulos: los tres desastres por ausencia de supervisión humana —Knight Capital perdiendo unos 440 millones de dólares en 45 minutos, el sesgo del cribado de currículums, la caída nacional de Optus— son precisamente condiciones fuera de lo normal que el sistema no supo manejar, y en el capítulo 4 los límites de la empatía artificial (sarcasmo, modismos culturales) funcionan como casos extremos conversacionales que obligan a un protocolo de escalamiento a un humano.

Módulo 7 — son la razón por la que el promedio engaña al interpretar unas pruebas A/B: "un agente puede funcionar bien en promedio pero fallar en casos extremos", de ahí la recomendación de segmentar los resultados por tipo de usuario o escenario en lugar de leer solo la métrica agregada. Las Pruebas adversarias son el método que el módulo propone para provocarlos deliberadamente.

Relacionado

Protocolo de contexto del modelo (MCP) · Basado en intención · Intervención humana · Orquestación según el contexto · Sobreajuste · Alucinación

Añadido en el módulo 7: Pruebas A-B · Pruebas adversarias · Canal de pruebas