Orçamento de contexto: reserve espaço para a resposta
Outro documento pode parecer caber porque a entrada está abaixo do limite. Mas a resposta também precisa de espaço. O orçamento mostra as parcelas antes de sobrecarregar a requisição.
A capacidade não é só para documentos
Confira a janela de contexto e o limite de saída do modelo. Conforme o modelo, o espaço compartilhado inclui entrada, saída e raciocínio; ter folga não elimina um limite de saída separado.
Informe capacidade, entrada, reserva de resposta e conteúdo adicional ainda não contado. São valores de planejamento, não uma medição automática do texto nem configurações enviadas ao modelo.
Referências: OpenAI — Context windows and output limits
Não conte instruções e ferramentas 2 vezes
Se a entrada já inclui instruções e definições de ferramentas, não as some novamente como parcela adicional. Contar um parágrafo isolado, por outro lado, pode deixar esses elementos de fora.
Registre o que cada número inclui: documento e pergunta na entrada, por exemplo, e instruções ainda não medidas na parcela adicional. Não ajuste a margem só para o saldo ficar positivo.
Folga aritmética não garante qualidade
Se o total ultrapassar a capacidade, reduza material ou reserva conforme a tarefa e meça novamente. Não apague uma instrução importante apenas para economizar espaço.
Saldo positivo não comprova uso correto de todos os trechos nem garante resposta certa ou sem cortes. Selecione conteúdo relevante e avalie a resposta em vez de preencher espaço só porque existe.
Exemplo: mais um trecho consome a reserva
Suponha capacidade de 12000 tokens: entrada de 7200, reserva de 3000 e 600 adicionais ainda não contados. O total é 10800 e sobram 1200. Essa capacidade é hipotética, não a especificação de um modelo.
Adicionar 1800 tokens leva a entrada a 9000 e o total a 12600, excedendo em 600. Se os 600 das instruções já estavam na entrada, a parcela adicional deve ser 0. Corrija o limite da contagem, sem esconder o excesso.