جبل الجليد الخفي: سؤال من 10 توكنز يكلّف 14,800 توكن
المستخدم يكتب 10 توكنز. الـsystem prompt، أمثلة few-shot، سجل المحادثة، مقاطع RAG، وتعريفات الأدوات ترفع الإجمالي بصمت إلى 14,300 توكن إدخال. هذه هي الفاتورة التي لا يراها أحد.
إدخال
14,300 توكنز
إخراج
500 توكنز
مخزّن مؤقتاً
60%
استدعاءات / شهر
50,000
ماذا يوجد داخل الإدخال
كتب المستخدم 10 توكن. كل شيء آخر أُضيف بصمت.
Prompt النظام800
أمثلة few-shot1,500
سجل المحادثة4,000
مستندات RAG6,000
تعريفات الأدوات2,000
رسالة المستخدم10
Total14,310 tokens
كتب المستخدم جملة واحدة. أنت دفعت ثمن 14,800 توكن. إن لم تقس هذا، فلن تستطيع تحسينه.