[تجريبي] تشغيل نموذج لغوي على خادمك مع Ollama وواجهة Open WebUI

لماذا نموذج محلي؟

عندما تحتوي الأسئلة على بيانات عملاء أو كود داخلي، يصبح إرسالها إلى خدمة خارجية قراراً يحتاج موافقة. تشغيل النموذج على خادمك يبقي البيانات داخل شبكتك.

المتطلبات

• خادم لينكس بذاكرة 16 GB على الأقل، ويفضّل بطاقة رسومية.
• Docker وDocker Compose.

التثبيت

curl -fsSL https://ollama.com/install.sh | sh
ollama pull llama3.1:8b
ollama run llama3.1:8b "مرحباً"

واجهة المحادثة

services:
  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    ports:
      - "3000:8080"
    environment:
      OLLAMA_BASE_URL: http://host.docker.internal:11434
    volumes:
      - ./data:/app/backend/data

التحقق

افتح http://الخادم:3000 وأنشئ حساب المشرف، ثم اختر النموذج من القائمة.