بدائل برنامج Ollama: واجهة برمجة API مستضافة بدون رقابة

الإجابة المختصرة

إذا كنت تبحث عن بدائل لبرنامج Ollama، فأنت غالباً في أحد المواقف الثلاثة. تريد مشغّلاً محلياً مختلفاً بواجهة أفضل، أو تريد شيئاً يتجاوز حدود محطة عمل واحدة، أو تريد التوقف عن إدارة الأجهزة بالكامل. كل موقف يشير إلى أداة مختلفة.

بالنسبة لتطبيق سطح المكتب الذي يحتوي على متصفح للنماذج، يُعد LM Studio خياراً شائعاً. للتحكم الأقصى في التكميم والذاكرة، يُعد llama.cpp المشروع الذي بُنيت حوله معظم المشغّلات الأخرى. للعديد من المستخدمين المتزامنين على خادم GPU، صُمم vLLM لذلك. وإذا كنت تفضل عدم امتلاك GPU، فإن واجهة برمجة تطبيقات متوافقة مع OpenAI المستضافة تزيل مسألة الأجهزة بالكامل. يقدم هذا الموقع الخيار الأخير، بنموذج واحد، uncensored، وبدون رفض المحتوى للاستخدام القانوني للبالغين.

ما يقدمه لك Ollama، وأين يواجه الناس الحائط

يقوم Ollama بتحميل النماذج مفتوحة الأوزان، ويقوم بتكميمها بشكل معقول، ويقدمها على جهازك عبر واجهة برمجة تطبيقات HTTP محلية صغيرة. كما يعرض نقطة نهاية على طراز OpenAI، وهو السبب في قدرة العديد من واجهات الدردشة على التحدث معه. وهو أمر يصعب التغلب عليه لتجربة على الحاسوب المحمول.

تظهر الاحتكاكات لاحقاً. النموذج الذي يتسع في 8 GB من ذاكرة الفيديو (VRAM) هو نموذج صغير، والنماذج الصغيرة تكتب مشاهد طويلة أقل تماسكاً وتنفذ التعليمات المعقدة بموثوقية أقل. تتطلب النماذج الأكبر ذاكرة أكثر مما تمتلكه معظم بطاقات الرسوميات الاستهلاكية. تشغيل نموذج أيضاً يشغل الجهاز: المراوح تدور، بطاقة الرسوميات مشغولة، وألعابك أو عمليات التصيير الخاصة تتنافس على نفس الذاكرة. إذا أردت نفس النموذج على هاتفك، أو على جهاز ثانٍ، أو داخل تطبيق صديق، عليك الآن تعريض شبكة المنزل، وهي مهمة أمنية بحد ذاتها.

لا يجعل أي من ذلك الاستدلال المحلي فكرة سيئة. هذا يعني أن السؤال الصحيح ليس أي الأداة هي الأفضل، ولكن أي مشكلة لديك.

البدائل المحلية في لمحة

يلتزم الجدول بما هو معروف علناً عن كل مشروع. تحقق من موقع كل مشروع للحصول على الميزات الحالية.

الخيار	ما هو	الأفضل عندما	التكلفة الرئيسية
LM Studio	تطبيق سطح المكتب لتحميل النماذج المحلية والدردشة معها	تريد واجهة رسومية (GUI) ولا تريد العمل في الطرفية	وحدة معالجة الرسومات (GPU) أو ذاكرة الوصول العشوائي (RAM) الخاصة بك
llama.cpp	محرك الاستنتاج وواجهة الخادم للنماذج المكمّمة	تريد تحكماً دقيقاً في الذاكرة والتكميم	وقتك لإعدادات البناء
vLLM	خادم استنتاج يهدف إلى تقديم العديد من الطلبات على وحدات معالجة الرسومات	تشغيل خادم متعدد المستخدمين	استئجار أو شراء خادم GPU
text-generation-webui	واجهة الويب التي تحمّل النماذج من خلال عدة واجهات خلفية	تحب تعديل إعدادات المولد في المتصفح	أجهزتك الخاصة
واجهة برمجة تطبيقات (API) مستضافة (هذا الموقع)	نقطة نهاية متوافقة مع OpenAI، نموذج واحد، الدفع حسب الرمز	لا تحتاج إلى أجهزة، وتعمل مع أي عميل OpenAI	الرموز التي تستخدمها فعلياً

يمكن لأدوات محلية كثيرة أيضاً تقديم خادم متوافق مع OpenAI، لذا فإن البرنامج العميل المكتوب لإحداها ينتقل بسهولة إلى أخرى بتغيير URL فقط. وهذه قابلية النقل هي ما يجعل المقارنة منخفضة المخاطر.

كيف يختلف الـ API المستضاف

يغيّر الـ API المستضاف من يتحمل العمل. ترسل طلباً، ويشغّل مزود مستقل نموذج مفتوح الأوزان مُعدّ للإجابة بدون رفض المحتوى، وتعود إليك الرموز. لا شيء لتحميله، ولا ميزانية VRAM، ولا تحديثات للسائق.

الواجهة هي المعيارية. Base URL هو https://api.ollamansfw.com/v1، ومعرف النموذج هو uncensored، والمصادقة مفتاح bearer عادي. الطريقتان هما POST /v1/chat/completions وGET /v1/models. يعمل البث المتدفق، واستدعاء الدوال، ووضع JSON كما تعمل في مكتبات OpenAI. نافذة السياق 100,000 رمز، للموجّه والإكمال معاً.

من الجدير أن نكون واضحين بشأن ما ليس عليه هذا. إنه نموذج واحد، يشغّله مزود مستقل. وليس الواجهة البرمجية الرسمية لأي بائع نماذج، ولا موزّعاً عبر عدة نماذج. يتعامل مع النصوص فقط، لذا لا يوجد توليد صور، ولا متجهات، ولا ضبط دقيق. قاعدة صارمة واحدة تنطبق: لا محتوى جنسي يتضمن القاصرين.

التبديل في خمس دقائق

إذا كان تطبيقك يتحدث بالفعل مع نقطة نهاية على طراز OpenAI، فإن الانتقال هو مجرد تغيير في الإعدادات. إليك الكود كاملاً في Python باستخدام المكتبة الرسمية.

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.ollamansfw.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarize the plot of a heist story in three lines."}],
)
print(resp.choices[0].message.content)

ونفس الاستدعاء باستخدام curl، وهو مفيد للتحقق من أن مفتاحك يعمل قبل أن تلمس أي كود للتطبيق.

Copycurl https://api.ollamansfw.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "uncensored", "messages": [{"role": "user", "content": "Hello"}]}'

يمكن للحسابات الجديدة المطالبة بـ $0.50 من رصيد تجريبي بنقرة واحدة على صفحة مفتاح API. لا يتطلب ذلك دفعاً، ويستمر لمدة 7 أيام، ومحدود بنسخة واحدة لكل شخص. إنشاء الحساب يتم عبر Google أو عبر البريد الإلكتروني وكلمة المرور. يغطي دليل البدء السريع نفس الخطوات مع عملاء أكثر.

إذا فشل الطلب في محاولتك الأولى، فإن صفحة الأخطاء الشائعة تدرج الأسباب المعتادة، مثل وجود /v1 ناقص في عنوان URL الأساسي.

التكلفة: المحلي مقابل المستضاف

تسعير المستضاف بسيط. تكاليف المدخلات $0.15 لكل مليون رمز، وتكاليف المخرجات $0.50 لكل مليون. طلب يحتوي على 3,000 رمز مدخل و700 رمز مخرج يكلف 3,000 × $0.15 / 1M = $0.00045 للمدخلات زائد 700 × $0.50 / 1M = $0.00035 للمخرجات، أي $0.0008 في المجموع. عشرة آلاف من هذه الطلبات تصل إلى $8.00.

الاستدلال المحلي لا يحتوي على رسوم لكل رمز، لكنه ليس مجانياً. أنت تدفع مقابل GPU أو الخادم، والكهرباء، ووقتك الخاص. إذا كنت تمتلك بالفعل GPU قادرًا وكان استخدامك خفيفاً، فإن التكلفة الهامشية لطلب محلي هي بالفعل قريبة من الصفر، وهذا حجة قوية للبقاء في مكانك. إذا كنت بحاجة إلى شراء أو استئجار أجهزة فقط لتشغيل نموذج بهذا الحجم، فإن عشرة آلاف طلب مقابل $8.00 هو رقم يستحق المقارنة مع تلك الفاتورة. تحقق من الأسعار الحالية لأي استئجار أو واجهة برمجة تطبيقات أخرى تنظر فيها، لأنها تتغير.

انظر إلى صفحة الأسعار لمعرفة مبالغ الشحن والمكافآت. الرصيد مسبق الدفع، لا ينتهي، ولا تُفرض رسوم على الطلبات الفاشلة أو المرفوضة. لا توجد خطة مجانية بلا حدود.

متى تبقى محلياً، ومتى تذهب للمستضاف

ابق محليًا إذا

• يجب ألا تخرج موجّهاتك من جهازك مطلقاً، لأسباب تتعلق بسياستك الخاصة.
• لديك بالفعل GPU بذاكرة كافية ويتسع له النموذج الذي تحبه.
• تعمل دون اتصال أو على اتصال غير موثوق.
• تريد تجربة نماذج مفتوحة مختلفة والتبديل بينها يومياً.

اختر الخدمة المستضافة إذا

• لا تمتلك الأجهزة المناسبة، أو لا تريد أن تكون مشغولة أثناء عملك.
• تحتاج إلى نفس نقطة النهاية من عدة أجهزة أو من تطبيق مُنشر.
• تريد نافذة سياق طويلة تصل إلى 100,000 رمز (token) دون ضبط إعدادات الذاكرة.
• استخدامك متقطع، لذا فإن الدفع مقابل كل رمز (token) أفضل من دفع ثمن عتاد خامل.

يفعل الكثيرون الاثنين. يتعامل النموذج المحلي مع المسودات الخاصة السريعة، وتأخذ نقطة النهاية المستضافة الجلسات الثقيلة. لأن كليهما يدعم تنسيق OpenAI، يظل كود التطبيق متطابقاً ويختلف فقط عنوان URL الأساسي.

بالنسبة للخصوصية في الجانب المستضاف، لا تُستخدم الموجّهات للتدريب. هذه عبارة تتعلق بهذه الخدمة فقط، ويجب عليك قراءة صفحات الأسعار والشروط قبل إرسال أي شيء حساس.

المزيد من الأدلة

• كيفية استخدام Ollama مع واجهة رسومية (وملاذ احتياطي مستضاف)
• أسعار Ollamansfw API: شرح تكاليف الرموز (token)
• دليل LLM API بدون رقابة