حاسبة ميزانية السياق للتوليد المعزز بالاسترجاع (RAG)

في التوليد المعزز بالاسترجاع (RAG) تتشارك القطع التي تسترجعها نافذة السياق مع كل ما عداها. أدخل النافذة وما تستهلكه تعليمات النظام والسجل والأدوات والرد الذي تريد حجزه وحجم القطعة، لترى أقصى عدد من القطع يتّسع وكم من المساحة يتبقى. ولا يدخل التداخل في الحساب: فهو يؤثر في طريقة الفهرسة لا في تكلفة القطعة المسترجَعة داخل الطلب.

تتم المعالجة محليًا في متصفحك. لا يتم رفع بياناتك إلى خوادمنا.

راجع وثائق نموذجك لمعرفة نافذة السياق. غالبًا ما يتشاركها الإدخال والإخراج.

التعليمات ووصف الدور المرسَلان مع كل طلب.

الرسائل السابقة المحتفَظ بها في الطلب.

مخططات الدوال والنتائج المُعادة إلى النموذج.

المساحة التي تريد إبقاءها حرّة للإجابة، وغالبًا ما تكون إعداد الحد الأقصى للمخرجات.

حجم كل قطعة مسترجَعة.

فواصل أو أسماء مصادر أو معرّفات اقتباس تُضاف حول كل قطعة. افتراض: اضبطه بما يطابق طلبك.

يغطي تنسيق الرسائل واختلافات المجزّئ. افتراض.

يُسمى غالبًا top-k. يتحقق من اتساعها.

النتيجة

أدخل نافذة السياق وكميات الرموز لترى كم قطعة تتّسع.

أمثلة

أمثلة محلولة (هامش 5% و20 رمزًا إضافيًّا لكل قطعة):

السيناريوالنافذةالمحجوزحجم القطعةأقصى عدد للقطع
روبوت محادثة بسجل32,7688,00051243
إجابات الدعم128,0009,000256407
بحث بسياق طويل1,000,00024,0001,024886

الصيغة والمنهجية

الميزانية حساب دقيق على أرقامك:

المتاح = النافذة − (النظام + السجل + الأدوات + الرد) − الهامشالرموز لكل قطعة = حجم القطعة + الرموز الإضافية لكل قطعةأقصى عدد للقطع = الجزء الصحيح(المتاح ÷ الرموز لكل قطعة)المساحة المتبقية = المتاح − أقصى عدد للقطع × الرموز لكل قطعة

من المفيد أن تعرف

  • تداخل القطع ليس مُدخلًا هنا. فهو يغيّر طريقة فهرسة المجموعة لا تكلفة القطعة المسترجَعة في الطلب. لكن إن استُرجعت قطعتان متجاورتان متداخلتان فالنص المشترك يُرسل مرتين: ادمجهما أو أزل التكرار.
  • استرجاع الحد الأقصى نادرًا ما يكون الأفضل. فالقطع الأكثر تضيف ضجيجًا وتكلفة؛ وتسترجع أنظمة كثيرة عددًا قليلًا ثم تعيد ترتيبه.
  • يتشارك الإدخال والإخراج عادةً نافذة السياق، لذلك يُحجز الرد أولًا. وتضع بعض النماذج حدًّا مستقلًّا للمخرجات أيضًا.
  • الرموز الإضافية لكل قطعة وهامش الأمان افتراضان. قِس طلبًا حقيقيًّا بعدّاد التوكنات وعدّل.
  • تختلف نوافذ السياق من نموذج إلى آخر وتتغيّر مع الوقت: أدخل نافذة نموذجك بنفسك.

كيفية الاستخدام

  1. أدخل نافذة السياق لنموذجك أو اختر حجمًا شائعًا.
  2. املأ الرموز التي تستهلكها تعليمات النظام والسجل والأدوات، والرد الذي تريد حجزه.
  3. أدخل حجم القطعة والرموز الإضافية لكل قطعة وهامش الأمان.
  4. يمكنك إدخال عدد القطع التي تريدها، ثم اقرأ الحد الأقصى والمساحة المتبقية والنصيحة.

الأسئلة الشائعة

كم قطعة أستطيع استرجاعها لنافذة السياق لديّ؟

اطرح كل ما عداها من النافذة (تعليمات النظام والسجل والأدوات والرد وهامشًا)، ثم اقسم الباقي على الرموز لكل قطعة وقرّب للأسفل. تفعل هذه الحاسبة ذلك وتعرض المساحة المتبقية.

هل يقلّل تداخل القطع عدد ما يتّسع؟

ليس مباشرة. يُحدَّد التداخل عند فهرسة المستندات. وعند الاسترجاع تكلّف كل قطعة حجمها. وإذا استُرجعت قطعتان متجاورتان متداخلتان فالنص المشترك يُرسل مرتين، فادمجهما أو أزل التكرار.

هل أملأ النافذة كلها بالقطع؟

عادةً لا. القطع الزائدة تضيف ضجيجًا وزمن استجابة وتكلفة، والسياقات الطويلة قد تخفف المقاطع ذات الصلة. وعدد معتدل من القطع الجيدة، وغالبًا بعد إعادة ترتيبها، يعمل عادةً أفضل من الحد الأقصى.

ما هي الرموز الإضافية لكل قطعة؟

هي الفواصل أو أسماء المصادر أو معرّفات الاقتباس التي تضعها حول كل قطعة في الطلب. وتتراكم مع كثرة القطع، فاضبط القيمة بما يطابق تنسيق طلبك.

لماذا أترك هامش أمان؟

أعداد الرموز لديك تقديرات، والطلب الفعلي يضيف تنسيق الرسائل. وهامش من بضع نقاط مئوية يمنع تجاوز الحد بسبب عدّ مخطئ قليلًا.

آخر تحديث: