حاسبة ميزانية السياق للتوليد المعزز بالاسترجاع (RAG)
في التوليد المعزز بالاسترجاع (RAG) تتشارك القطع التي تسترجعها نافذة السياق مع كل ما عداها. أدخل النافذة وما تستهلكه تعليمات النظام والسجل والأدوات والرد الذي تريد حجزه وحجم القطعة، لترى أقصى عدد من القطع يتّسع وكم من المساحة يتبقى. ولا يدخل التداخل في الحساب: فهو يؤثر في طريقة الفهرسة لا في تكلفة القطعة المسترجَعة داخل الطلب.
النتيجة
أدخل نافذة السياق وكميات الرموز لترى كم قطعة تتّسع.
- المحجوز (التعليمات والسجل والأدوات والرد)
- هامش الأمان
- المتاح للقطع
- الرموز لكل قطعة (مع الإضافات)
- أقصى عدد للقطع
- الرموز التي تستهلكها تلك القطع
- المساحة المتبقية
- نسبة استخدام النافذة
أمثلة
أمثلة محلولة (هامش 5% و20 رمزًا إضافيًّا لكل قطعة):
| السيناريو | النافذة | المحجوز | حجم القطعة | أقصى عدد للقطع |
|---|---|---|---|---|
| روبوت محادثة بسجل | 32,768 | 8,000 | 512 | 43 |
| إجابات الدعم | 128,000 | 9,000 | 256 | 407 |
| بحث بسياق طويل | 1,000,000 | 24,000 | 1,024 | 886 |
الصيغة والمنهجية
الميزانية حساب دقيق على أرقامك:
المتاح = النافذة − (النظام + السجل + الأدوات + الرد) − الهامشالرموز لكل قطعة = حجم القطعة + الرموز الإضافية لكل قطعةأقصى عدد للقطع = الجزء الصحيح(المتاح ÷ الرموز لكل قطعة)المساحة المتبقية = المتاح − أقصى عدد للقطع × الرموز لكل قطعةمن المفيد أن تعرف
- تداخل القطع ليس مُدخلًا هنا. فهو يغيّر طريقة فهرسة المجموعة لا تكلفة القطعة المسترجَعة في الطلب. لكن إن استُرجعت قطعتان متجاورتان متداخلتان فالنص المشترك يُرسل مرتين: ادمجهما أو أزل التكرار.
- استرجاع الحد الأقصى نادرًا ما يكون الأفضل. فالقطع الأكثر تضيف ضجيجًا وتكلفة؛ وتسترجع أنظمة كثيرة عددًا قليلًا ثم تعيد ترتيبه.
- يتشارك الإدخال والإخراج عادةً نافذة السياق، لذلك يُحجز الرد أولًا. وتضع بعض النماذج حدًّا مستقلًّا للمخرجات أيضًا.
- الرموز الإضافية لكل قطعة وهامش الأمان افتراضان. قِس طلبًا حقيقيًّا بعدّاد التوكنات وعدّل.
- تختلف نوافذ السياق من نموذج إلى آخر وتتغيّر مع الوقت: أدخل نافذة نموذجك بنفسك.
كيفية الاستخدام
- أدخل نافذة السياق لنموذجك أو اختر حجمًا شائعًا.
- املأ الرموز التي تستهلكها تعليمات النظام والسجل والأدوات، والرد الذي تريد حجزه.
- أدخل حجم القطعة والرموز الإضافية لكل قطعة وهامش الأمان.
- يمكنك إدخال عدد القطع التي تريدها، ثم اقرأ الحد الأقصى والمساحة المتبقية والنصيحة.
الأسئلة الشائعة
كم قطعة أستطيع استرجاعها لنافذة السياق لديّ؟
اطرح كل ما عداها من النافذة (تعليمات النظام والسجل والأدوات والرد وهامشًا)، ثم اقسم الباقي على الرموز لكل قطعة وقرّب للأسفل. تفعل هذه الحاسبة ذلك وتعرض المساحة المتبقية.
هل يقلّل تداخل القطع عدد ما يتّسع؟
ليس مباشرة. يُحدَّد التداخل عند فهرسة المستندات. وعند الاسترجاع تكلّف كل قطعة حجمها. وإذا استُرجعت قطعتان متجاورتان متداخلتان فالنص المشترك يُرسل مرتين، فادمجهما أو أزل التكرار.
هل أملأ النافذة كلها بالقطع؟
عادةً لا. القطع الزائدة تضيف ضجيجًا وزمن استجابة وتكلفة، والسياقات الطويلة قد تخفف المقاطع ذات الصلة. وعدد معتدل من القطع الجيدة، وغالبًا بعد إعادة ترتيبها، يعمل عادةً أفضل من الحد الأقصى.
ما هي الرموز الإضافية لكل قطعة؟
هي الفواصل أو أسماء المصادر أو معرّفات الاقتباس التي تضعها حول كل قطعة في الطلب. وتتراكم مع كثرة القطع، فاضبط القيمة بما يطابق تنسيق طلبك.
لماذا أترك هامش أمان؟
أعداد الرموز لديك تقديرات، والطلب الفعلي يضيف تنسيق الرسائل. وهامش من بضع نقاط مئوية يمنع تجاوز الحد بسبب عدّ مخطئ قليلًا.
آخر تحديث: