محاسبة تكلفة واجهة برمجة تطبيقات LLM

الرمز هو قطعة نص يُقرأ ويُكتب من قبل النموذج — تقريبًا كلمة، أو جزء من الكلمة، أو علامة ترقيم. يُقدر أن يكون متوسط النص الإنجليزي حوالي أربع أحرف لكل رمز. يُسعَر النماذج حسب الرمز لأن تكلفة المعالجة تزداد مع عدد الرموز المعالجة: يجب أن يُنظر إلى كل رمز مدخل، وكل رمز مخرج يتم إنتاجه خطوة بخطوة. التسعير حسب الرمز يُعطي نموذجًا خطيًا وقابلًا للتنبؤ، يُقابل مباشرة على العمل الذي يُفعله المعالج.

تُعالج رموز المدخلات في تمرير واحد متوازي: يقرأ النموذج كامل الطلب في مرة واحدة. أما رموز المخرجات، فهي تُولَّد بشكل تلقائي — كل رمز جديد يتطلب تمريرًا آخر على السياق المتزايد. هذا التوليد خطوة بخطوة أكثر تكلفة لكل رمز، وهو السبب الذي يجعل المزودين يسعرون رموز المخرجات 2 إلى 5 مرات أكثر من رموز المدخلات.

يُسمح لك بالتقديم معًا لعدد كبير من الطلبات وتقديم النتائج داخل فترة زمنية محددة من قبل المزود — عادة 24 ساعة عند OpenAI، Anthropic، وGoogle. لأن هذه المهام يمكن ترتيبها على مصادر غير مُشغلة، يُقدّم المزودون خصمًا 50% على رموز المدخلات والمخرجات. يُعد التسعير بالجملة مناسبًا للحملات غير المُتاحة مثل تحسين الوثائق، تجارب التقييم، تعبئة المدخلات، وملفات التقرير الليلي. لا يناسب أي شيء ينتظره المستخدم، مثل الدردشة أو البحث التفاعلي.

تُحتوي النماذج الأكبر على عدد أكبر من المعلمات، مما يعني أن كل تمرير يتطلب أكثر حسابًا وسعة ذاكرة. يُعد نموذج بـ 405 مليار معلمات يُفعل أكثر حسابًا لكل رمز مقارنة بـ 8 مليار معلمات. يُمرر المزودون هذا التكلفة كسعر أعلى لكل رمز. هذا هو أيضًا السبب الذي يجعل النموذج الأصغر والأسرع هو الحل المناسب لمهام التصنيف البسيط أو استخراج البيانات — لأنك تدفع أقل وتحصل على رد أسرع.

ليس دائمًا. تُعتبر الأسعار المعلنة نقطة البداية، لكن معظم المزودين يقدّمون خصومات للإستخدام المُلتزم، عقود الشركات، أرصدة مسبقة، ومستويات الحجم التي تقلل من سعر الرمز الفعلي. بالإضافة إلى ذلك، يمكن أن تقلل ميزات مثل تخزين الطلبات المُكررة، تقليل طلبات الطلب، وتخزين السياق المخصص تكلفة المدخلات بشكل كبير في الحملات المتكررة. اعتبر أدوات التقدير المعلنة كحد أقصى للاستعداد، ثم أضف الخصومات المُبرمة في العقود.