Обзор развертывания Pytorch на сервере¶
Предварительные требования¶
Для корректной работы приложения требуются следующие условия:
-
Операционная система: Debian или Ubuntu.
-
Наличие видеокарты NVIDIA (в частности, поддерживаются модели серии H100).
-
Права доступа: права суперпользователя (
root) для выполнения установки системных пакетов и драйверов.
FQDN итоговой панели на домене hostkey.in¶
| Параметр | Значение | | Префикс | pytorch | | Домен | hostkey.in | | Полный шаблон | pytorch{Server_ID_from_Invapi}.hostkey.in |
Процесс установки приложения¶
Процесс развертывания включает в себя несколько этапов: подготовку системы, установку драйверов NVIDIA и настройку среды Python для работы с PyTorch.
-
Подготовка операционной системы:
-
Обновление списка пакетов и выполнение безопасного обновления всех системных компонентов.
-
Удаление неиспользуемых зависимостей.
-
Установка базовых утилит:
curl,wget,sudo. -
Установка драйверов и CUDA:
-
Если система обнаруживает видеокарту модели H100, устанавливается пакет ядра
linux-generic-hwe-22.04. -
Установка пакета
ubuntu-drivers-common. -
Автоматический поиск и установка рекомендуемого проприетарного драйвера NVIDIA.
-
Установка компилятора
gcc. -
Регистрация репозитория CUDA через пакет
cuda-keyring. -
Установка среды выполнения CUDA (
cuda). -
Настройка пользователя и окружения:
-
Создание системного пользователя
userс домашним каталогом/home/user. -
Генерация случайного пароля для пользователя (сохраняется в файле
/root/user_credentials). -
Добавление пользователя в группу
sudoдля возможности выполнения административных задач. -
Установка библиотек разработки:
libnvinfer5-dev. -
Установка Python 3.10, менеджера пакетов
pipи модуляvenv. -
Настройка среды PyTorch:
-
Создание виртуального окружения в директории
/home/user/venv. -
Установка библиотек
torch,torchvisionиtorchaudioчерезpip3. -
Настройка переменных окружения
PATHиLD_LIBRARY_PATHв файле.bashrcдля корректной работы CUDA.
Права доступа и безопасность¶
-
Пользователь: Для работы с приложением создается выделенный пользователь
user. -
Безопасность: Пароль пользователя генерируется случайным образом через
opensslи сохраняется в защищенном файле/root/user_credentials. -
Доступ: Пользователю предоставляются права
sudoдля управления системой.
Базы данных¶
В данной конфигурации базы данных не используются.
Контейнеры Docker и их запуск¶
Приложение развертывается непосредственно в операционной системе (bare metal) без использования контейнеров Docker. Все компоненты работают как нативные процессы или библиотеки Python в виртуальном окружении.
Кастомные скрипты и дополнительные настройки¶
В процессе установки используются два основных сценария:
-
Установочный скрипт (
/root/install_script.sh): -
Выполняет автоматическую установку драйверов NVIDIA и CUDA.
-
Настраивает системные переменные окружения для работы с графическим ускорителем.
-
Создает пользователя
userи подготавливает среду Python. -
Скрипт установки PyTorch (
/home/user/pytorch_install.sh): -
Инициализирует виртуальное окружение
venv. -
Устанавливает необходимые библиотеки машинного обучения.
-
Проводит тестовый запуск кода для проверки доступности CUDA (вывод:
PyTorch installed with CUDAили сообщение об отсутствии устройства).
Также создается вспомогательный скрипт /home/user/pytorch.sh для быстрого входа в рабочую среду через активацию виртуального окружения.
Инструкция по обновлению приложения¶
Для обновления библиотек PyTorch и зависимостей необходимо:
-
Войти под пользователем
user. -
Активировать виртуальное окружение:
-
Выполнить обновление через pip:
Расположение конфигурационных файлов и данных¶
-
Кредитные данные пользователя:
/root/user_credentials -
Виртуальное окружение Python:
/home/user/venv -
Скрипт активации среды:
/home/user/pytorch.sh -
Конфигурация окружения (bashrc):
/home/user/.bashrc
Доступные порты для подключения¶
Приложение не использует стандартные сетевые порты для прослушивания, так как является библиотекой машинного обучения. Доступ осуществляется через терминал (SSH) под пользователем user.