Tókenes

Unidades en que un modelo de lenguaje descompone el texto para procesarlo. Un token equivale aproximadamente a 3 o 4 caracteres, unas 0,75 palabras. Son también la unidad de facturación: se paga por los de entrada y por los de salida.

En el curso

Módulo 1 — es la pieza que convierte una decisión técnica en una decisión económica, y el módulo la desarrolla con un cálculo concreto:

La diferencia entre modelos es enorme: GPT-4.5 cuesta 150 USD por millón de tókenes de salida frente a 0,60 USD de GPT-4o mini, es decir 250 veces más barato.

El módulo advierte además contra usar métricas de consumo de tókenes como indicador de negocio si no están ligadas a un resultado que le importe a la organización.

Relacionado

LLM · Ventana de contexto · Unidades de procesamiento gráfico (GPU) · Centros de datos · Caching · Indicador clave de desempeño (KPI)