Обзор развертывания Qwen на сервере¶

Предварительные требования¶

Для корректной работы приложения требуются следующие параметры системы:

• Операционная система: Ubuntu (рекомендуется версия 22.04 LTS).

• Права доступа: Права суперпользователя (root) для установки драйверов и системных пакетов.

• Порты:

• 8080 — внутренний порт приложения.

• 443 — внешний порт (HTTPS) через прокси-сервер.

FDQN итоговой панели на домене hostkey.in¶

Для доступа к интерфейсу используется следующий шаблон доменного имени:

Структура файлов и каталогов¶

Основные директории, используемые в системе:

• /root/nginx — конфигурационные файлы Docker Compose для прокси-сервера Nginx.

• /data/nginx/user_conf.d — пользовательские конфигурации Nginx.

• /etc/letsencrypt — сертификаты SSL (хранятся в томе nginx_secrets).

• /app/backend/data — данные приложения OpenWebUI (хранятся в томе open-webui).

Процесс установки приложения¶

Развертывание включает следующие этапы:

1. Обновление системных пакетов и установка ядра HWE.

2. Установка драйверов NVIDIA (при наличии GPU) и утилиты ubuntu-drivers.

3. Установка и запуск сервиса Ollama через официальный скрипт установки.

4. Загрузка модели qwen3.6-35b в Ollama.

5. Развертывание контейнера OpenWebUI.

6. Настройка прокси-сервера Nginx с автоматическим получением SSL-сертификатов через Certbot.

Контейнеры Docker и их запуск¶

В системе развернуты следующие контейнеры:

OpenWebUI¶

• Имя образа: ghcr.io/open-webui/open-webui:main

• Режим сети: host

• Тома (volumes): open-webui:/app/backend/data

• Переменные окружения:

• OLLAMA_BASE_URL=http://127.0.0.1:11434

• Политика перезапуска: always

Nginx (с Certbot)¶

• Имя образа: jonasal/nginx-certbot:latest

• Режим сети: host

• Тома (volumes):

• nginx_secrets:/etc/letsencrypt

• /data/nginx/user_conf.d:/etc/nginx/user_conf.d

• Переменные окружения:

• CERTBOT_EMAIL=hkadm@hostkey.com

• Политика перезапуска: unless-stopped

Базы данных¶

Приложение использует Ollama в качестве бэкенда для работы с моделями. Данные модели и конфигурации OpenWebUI хранятся в Docker-томах:

• open-webui — данные приложения.

Инструкция по обновлению приложения¶

Обновление выполняется через перезапуск контейнеров или обновление пакетов. Для обновления прокси-сервера используется команда:

docker compose up -d

docker exec nginx-nginx-1 nginx -s reload

Доступные порты для подключения¶