corehu
استأجر GPU

حالة استخدام

شغّل Llama ونماذج LLM مفتوحة أخرى على GPU سحابية

تحدّث مع Llama أو Qwen أو Mistral، أو قدّمها عبر API باستخدام Ollama. يشغّل قالب Ollama الخادم نيابةً عنك.

عرض أجهزة RTX 4090 جارٍ التحقق من الأسعار المباشرة…

تُحتسب الرسوم بالثانية من رصيدك بالـ USD. أوقف الجهاز أو أنهِه عند الانتهاء.

GPU الموصى بها

RTX 4090 · RTX 5090 · A100 SXM4

تتسع نماذج 8B–14B على RTX 4090 بذاكرة 24 GB. ولنماذج 32B–70B اختر RTX 5090 أو A100 80 GB.

القالب المناسب

Ollama

شغّل نماذج LLM بأمر واحد؛ مع واجهة API متوافقة مع OpenAI.

جاهز للعمل في أربع خطوات

  1. 1

    استأجر الجهاز

    افتح الكتالوج مع تحديد قالب Ollama مسبقًا، واختر GPU واضغط «استئجار».

    عرض أجهزة RTX 4090
  2. 2

    اتصل عبر SSH

    انسخ أمر SSH من صفحة جهازك. أضف إعادة توجيه المنفذ إذا أردت استدعاء API من حاسوبك.

    ssh -p <PORT> root@<HOST> -L 11434:localhost:11434

    تجد أمر SSH في صفحة جهازك. يعيد الجزء -L توجيه المنفذ ليفتح التطبيق في متصفحك.

  3. 3

    نزّل نموذجًا وابدأ الدردشة

    Ollama يعمل بالفعل. نزّل نموذجًا وابدأ الدردشة.

    ollama run llama3.1:8b
  4. 4

    استخدم API

    يوفّر Ollama واجهة API متوافقة مع OpenAI على المنفذ 11434.

    curl http://localhost:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"llama3.1:8b","messages":[{"role":"user","content":"Hello"}]}'

أسئلة

هل تُستخدم بياناتي لتدريب أي شيء؟

لا. يعمل النموذج على جهازك المستأجر، وتبقى المطالبات والمخرجات عليه.

هل يمكنني استخدامه من تطبيقي؟

نعم. وجّه عميلًا متوافقًا مع OpenAI إلى http://localhost:11434/v1 عبر نفق SSH.