ميزانية السياق: اترك مكانًا للإجابة لا للسؤال فقط
إضافة مستند آخر قد تبدو ممكنة لأن المدخلات وحدها أقل من الحد، لكن النموذج يحتاج مساحة للإجابة أيضًا. ميزانية السياق تساعدك على رؤية ما خصصته وما بقي، قبل بناء طلب مزدحم.
السعة ليست كلها مساحة للوثائق
راجع سعة السياق وحد المخرجات للنموذج الذي ستستخدمه. المساحة المشتركة قد تشمل المدخلات والمخرجات وتوكنات الاستدلال بحسب النموذج؛ وجود مساحة متبقية لا يزيل حد المخرجات المستقل.
في الحاسبة حدّد السعة، والمدخلات، والمساحة المحجوزة للإجابة، وأي عبء إضافي لم يدخل في العد. هذه أرقام تخطيط تدخلها أنت، لا قياس تلقائي للنص أو إعداد يُرسل إلى نموذج.
لا تضف التعليمات والأدوات مرتين
إذا كان عد المدخلات يشمل تعليمات النظام وتعريفات الأدوات أصلًا، فلا تضفها مرة أخرى كعبء إضافي. أما عد فقرة منفردة فلا يمثل بالضرورة كل هذه الأجزاء.
دوّن ما يتضمنه كل رقم. مثلًا: المدخلات تشمل المستند والسؤال، والعبء الإضافي يشمل تعليمات لم تُحسب بعد. هذا أوضح من تغيير الهامش عشوائيًا حتى تظهر نتيجة موجبة.
المتبقي مساحة حسابية لا شهادة جودة
إذا تجاوز المجموع السعة، قلّل المادة أو احتياطي الإجابة وفق حاجة المهمة، ثم أعد القياس. لا تحذف قيدًا مهمًا من التعليمات لمجرد جعل الطلب أصغر.
وجود فائض لا يثبت أن النموذج سيستخدم كل المستند بدقة، ولا أن الإجابة ستكون صحيحة أو بلا اقتطاع. اختر المادة المرتبطة بالسؤال وقيّم الإجابة نفسها، بدل ملء المساحة لأنها متاحة.
مثال: مستند إضافي يستهلك الاحتياطي
نفترض سعة 12000 توكن: المدخلات 7200، واحتياطي الإجابة 3000، وعبء غير محسوب 600. المجموع 10800 والمتبقي 1200. هذه سعة افتراضية وليست مواصفة لنموذج بعينه.
إضافة مقطع من 1800 توكن تجعل المدخلات 9000 والمجموع 12600، أي تجاوزًا بمقدار 600. إذا كانت 600 الخاصة بالتعليمات داخلة أصلًا في رقم المدخلات، فضع العبء الإضافي صفرًا؛ التصحيح يكون بتحديد ما عُد، لا بإخفاء التجاوز.