LLM

Modelo de aprendizaje profundo entrenado sobre volúmenes masivos de texto para comprender, generar y manipular lenguaje humano en contextos muy diversos. Se construye sobre la arquitectura transformadora y funciona prediciendo la continuación más probable de una secuencia, lo que explica tanto su versatilidad como sus fallos.

En el curso

Módulo 1 — los define como redes profundas especializadas en predecir y generar lenguaje, y desmenuza su entrenamiento en tres etapas: preentrenamiento, ajuste fino y aprendizaje por refuerzo con evaluadores humanos. Introduce también la economía del token: un prompt de 500 tókenes con respuesta de 1.000, repetido 10.000 veces al día, supera los 22.500 USD al mes.

Módulo 2 — los mira desde las plataformas: LangChain nace en 2022 para reducir la fricción de integrar LLM en aplicaciones reales, y Ollama para ejecutarlos en local (Llama 2, Mistral, Gemma) reduciendo latencia y manteniendo el control de los datos.

Módulo 3 — trata su choque con la infraestructura heredada: APIs que no soportan enviar un documento completo como prompt, datos repartidos con convenciones inconsistentes (Cust_ID frente a CustomerNumber), latencia inaceptable de cara al cliente. Y su especialización mediante ajuste fino cuando el modelo generalista tropieza con terminología sectorial o psicología del cliente.

Módulo 4 — expone sus límites estructurales: generan desde probabilidades y no desde verdades verificadas, no pueden verificarse a sí mismos, y su ventana de contexto de longitud fija actúa como memoria a corto plazo. Además replican los sesgos presentes en sus datos de entrenamiento.

Módulo 5 — los define como sistemas entrenados con enormes cantidades de texto mediante aprendizaje profundo, y los sitúa como la capa de orquestación bajo los asistentes empresariales: en el ejemplo de AskNova, esa capa consulta varios sistemas vía API sin que el usuario vea la complejidad.

Módulo 6 — es el motor de decisión intermedio en la arquitectura del agente de voz, entre el reconocimiento de voz a texto (STT/ASR) y la síntesis de texto a voz (TTS).

Relacionado

GPT · Transformadores · Autoatención · Aprendizaje profundo · Alucinación · Ventana de contexto · RAG · Ajuste fino