कॉन्टेक्स्ट बजट: उत्तर के लिए भी जगह रखें

इनपुट सीमा से कम हो तो एक और दस्तावेज़ समा सकता लगता है। लेकिन उत्तर को भी जगह चाहिए। कॉन्टेक्स्ट बजट अनुरोध भरने से पहले हिस्से स्पष्ट करता है।

पूरी क्षमता दस्तावेज़ों के लिए नहीं है

मॉडल की कॉन्टेक्स्ट विंडो और आउटपुट सीमा दोनों देखें। मॉडल के अनुसार साझा जगह में इनपुट, आउटपुट और रीजनिंग टोकन शामिल हो सकते हैं। जगह बचना अलग आउटपुट सीमा को समाप्त नहीं करता।

क्षमता, इनपुट, उत्तर के लिए आरक्षित जगह और अब तक न गिना गया अतिरिक्त हिस्सा भरें। ये योजना के अंक हैं, टेक्स्ट की स्वचालित गिनती या मॉडल को भेजी जाने वाली सेटिंग नहीं।

संदर्भ: OpenAI — Context windows and output limits

निर्देश और टूल 2 बार न गिनें

यदि इनपुट संख्या में निर्देश और टूल परिभाषाएँ पहले से हैं, तो उन्हें अतिरिक्त हिस्से में फिर न जोड़ें। केवल अनुच्छेद गिनने पर ये हिस्से शामिल नहीं भी हो सकते हैं।

लिखें कि हर अंक में क्या है: जैसे इनपुट में दस्तावेज़ और प्रश्न, अतिरिक्त में न गिने गए निर्देश। केवल शेष को धनात्मक दिखाने के लिए गुंजाइश मनमाने ढंग से न बदलें।

बची जगह गुणवत्ता की गारंटी नहीं है

कुल क्षमता से अधिक हो तो काम के अनुसार सामग्री या उत्तर-आरक्षण घटाकर फिर मापें। सिर्फ आकार घटाने के लिए महत्वपूर्ण निर्देश न हटाएँ।

धनात्मक शेष साबित नहीं करता कि सभी अंश सही इस्तेमाल होंगे या उत्तर सही और बिना कटे होगा। जगह भरने के बजाय प्रासंगिक सामग्री चुनें और उत्तर का मूल्यांकन करें।

उदाहरण: अतिरिक्त अंश आरक्षित जगह खाता है

मान लें क्षमता 12000 टोकन है: इनपुट 7200, उत्तर के लिए 3000 और अब तक न गिने गए अतिरिक्त 600। कुल 10800 है, शेष 1200। यह काल्पनिक क्षमता है, किसी मॉडल का विनिर्देश नहीं।

1800 टोकन जोड़ने से इनपुट 9000 और कुल 12600 होगा, यानी सीमा से 600 अधिक। यदि निर्देशों के 600 पहले से इनपुट में हैं, तो अतिरिक्त भाग 0 रखें। गिनती का दायरा सुधारें, सीमा पार होने को न छिपाएँ।

संदर्भ