Presupuesto de contexto: deja espacio para la respuesta
Otro documento puede parecer que cabe porque la entrada está por debajo del límite. Pero la respuesta también necesita espacio. Un presupuesto muestra lo asignado antes de saturar la solicitud.
La capacidad no es solo para documentos
Consulta tanto la ventana de contexto como el límite de salida del modelo. Según el modelo, el espacio compartido incluye entrada, salida y razonamiento; tener margen no elimina el límite de salida independiente.
Introduce capacidad, entrada, reserva de respuesta y estructura adicional aún no contada. Son cifras de planificación, no un recuento automático del texto ni ajustes enviados al modelo.
Referencias: OpenAI — Context windows and output limits
No dupliques instrucciones y herramientas
Si la entrada ya incluye instrucciones y definiciones de herramientas, no las añadas otra vez como carga adicional. Contar un párrafo aislado, en cambio, no cubre necesariamente esos elementos.
Anota qué incluye cada cifra: documento y pregunta en la entrada, por ejemplo, e instrucciones aún no medidas en la carga adicional. No cambies el margen solo para obtener un saldo positivo.
El margen es aritmético, no una garantía de calidad
Si se supera la capacidad, reduce material o reserva según la tarea y vuelve a medir. No elimines una instrucción importante solo para ahorrar espacio.
Un saldo positivo no demuestra que se utilizarán bien todos los pasajes ni garantiza una respuesta correcta o sin truncar. Selecciona material pertinente y evalúa la respuesta, en lugar de llenar espacio por llenarlo.
Ejemplo: un pasaje más consume la reserva
Supón 12000 tokens de capacidad: 7200 de entrada, 3000 reservados para la respuesta y 600 adicionales aún no contados. Se asignan 10800 y quedan 1200. Es una capacidad hipotética, no la ficha de un modelo.
Añadir 1800 tokens lleva la entrada a 9000 y el total a 12600: sobran 600 respecto al límite. Si esos 600 de instrucciones ya estaban en la entrada, la carga adicional debe ser 0. Corrige qué se contó, no ocultes el exceso.