واجهة برمجة تطبيقات الذكاء الاصطناعي
Otari
بوابة LLM مفتوحة المصدر متوافقة مع OpenAI تقوم بتشغيلها بنفسك، توفر نقطة نهاية واحدة لأكثر من 40 مزودًا بمفاتيح افتراضية وميزانيات وتتبع للاستخدام.
Otari
ما هو Otari؟
Otari هو خادم وكيل مفتوح المصدر يقوم بتوجيه طلبات LLM من تطبيقاتك إلى أكثر من 40 مزودًا من خلال نقطة نهاية واحدة متوافقة مع OpenAI، ويتعامل مع المصادقة وتنفيذ الميزانية وتسجيل الاستخدام.
Otari مقارنة بأدوات مماثلة
| نموذج التسعير | مجاني | مجاني, فريميوم | مجاني, تجربة مجانية, تسعير مخصص | مجاني, فريميوم |
| أرصدة مجانية | ||||
| الميزات الرئيسية |
|
|
|
|
| المزايا |
|
|
|
|
| العيوب |
|
|
|
|
| مناسب لـ |
|
|
|
|
طريقة استخدام Otari
- 1قم بنشر Otari باستخدام Docker (مثل: docker run مع مفاتيح المزود والمفتاح الرئيسي).
- 2أنشئ مفتاح API افتراضيًا عبر نقطة نهاية الإدارة أو المفتاح المُهيأ.
- 3وجه عميل OpenAI الخاص بك إلى http://localhost:8000/v1 باستخدام المفتاح الافتراضي.
- 4أرسل الطلبات باستخدام أي مزود نموذج (مثل: openai:gpt-4o-mini).
- 5راقب الاستخدام والميزانيات عبر نقطة نهاية /v1/usage.
الميزات الرئيسية في Otari
- نقطة نهاية متوافقة مع OpenAI لأكثر من 40 مزود LLM
- مفاتيح API افتراضية بأذونات محددة وإمكانية الإلغاء
- تنفيذ الميزانية قبل الطلب لكل مستخدم وكل مفتاح
- تسجيل الاستخدام والإنفاق مع تاريخ قابل للاستعلام
- أدوات مدمجة: تنفيذ التعليمات البرمجية في بيئة معزولة والبحث على الويب
- حواجز حماية لأمان الإدخال (مثل اكتشاف حقن البرمجيات)
- وضع مستقل أو هجين مع إدارة سحابية
حالات استخدام Otari
- مركزية إدارة مفاتيح API لمزودي LLM المتعددين
- التحكم في التكاليف عن طريق تحديد الميزانيات قبل تنفيذ الطلبات
- تمكين الوصول الآمن إلى LLMs دون الكشف عن مفاتيح المزود
- تتبع الاستخدام عبر الفرق والتطبيقات
- تشغيل حواجز الحماية والأدوات المخصصة مع أي نموذج
أسعار Otari والأرصدة المجانية
يعمل Otari بنموذج مجاني.
هذه الأداة مجانية بالكامل
مزايا وعيوب Otari
المزايا
- مفتوح المصدر ومستضاف ذاتيًا، مما يحافظ على مفاتيح المزود والبيانات في بيئتك
- نقطة نهاية واحدة تبسط تكامل العميل عبر المزودين
- تنفيذ الميزانية قبل المكالمات، مما يمنع التكاليف غير المتوقعة
- تتبع شامل للاستخدام وتسجيل
العيوب
- يتطلب إعدادًا أوليًا وصيانة للخادم
- الوضع المستضاف ذاتيًا يفتقر إلى التراجع المُدار متعدد المزودين (متوفر في الوضع الهجين مع حساب otari.ai)
- بعض الميزات المتقدمة (مثل أدوات المزود الأصلية) مقصورة على نماذج محددة
لأي استخدام يناسب Otari أكثر؟
- المطورون والفرق التي تحتاج إلى بوابة API موحدة لـ LLM
- المؤسسات التي تتطلب التحكم الدقيق في الوصول وإدارة التكاليف
- أولئك الذين يرغبون في تجنب الارتباط بالمزود والحفاظ على خصوصية البيانات