gpt-oss-120b¶

В этой статье

• Основные возможности gpt-oss-120b
• Особенности сборки
• Начало работы после развертывания gpt-oss-120b
• Заказ сервера с gpt-oss-120b с помощью API

Основные возможности gpt-oss-120b¶

• Масштабируемая архитектура с условной активацией: модель содержит 120 миллиардов параметров, но за счёт механизма разреженной активации (sparse activation) задействует лишь ~21 миллиард параметров на запрос, что значительно снижает требования к памяти и вычислительным ресурсам без ущерба для качества.
• Продвинутые агентские функции: gpt-oss-120b поддерживает расширенный набор инструментов — включая выполнение кода, веб-поиск в реальном времени, вызов API и генерацию строго структурированных выходных данных (JSON, XML и др.). Это делает её идеальной основой для автономных агентов и сложных автоматизированных систем.
• Адаптивные рассуждения: модель реализует гибкую систему уровней рассуждений — от быстрого прямого ответа до многоэтапной цепочки размышлений (chain-of-thought) и деревьев решений. Пользователь может управлять «глубиной мышления» в зависимости от сложности задачи.
• Высокая производительность на бенчмарках: gpt-oss-120b демонстрирует результаты, сопоставимые с проприетарными моделями уровня o3 и o4, особенно в задачах, требующих логики, математики, программирования и междисциплинарного синтеза знаний.
• Широкая мультилингвальная поддержка: модель обучена на данных более чем на 50 языках и способна эффективно работать в многоязычных и мультикультурных контекстах. Для наилучших результатов рекомендуется явно задавать язык и культурные рамки в промпте.
• Эффективное квантование и совместимость: поддержка форматов MXFP4 и INT4 позволяет значительно сократить объём памяти и ускорить вывод без существенной потери качества. Модель совместима с популярными фреймворками, такими как vLLM, GGUF и Hugging Face Transformers.

Особенности сборки¶

Технические характеристики сборки:

• Ubuntu 22.04 с обновлением ядра до 6 версии;
• Nvidia драйверы последней версии;
• CUDA Toolkit;
• Ollama для управления моделями;
• OpenWebUI для веб-интерфейса.

Особенности установки:

• Время на установку 35-45 минут вместе с OS;
• Сервер Ollama загружает и запускает модель gpt-oss-120b в память GPU/RAM;
• Open WebUI развертывается как веб-приложение, подключенное к серверу Ollama;
• Пользователи взаимодействуют с моделью через веб-интерфейс Open WebUI для программирования и агентных задач;
• Все вычисления и обработка кода происходят локально на сервере;
• Администраторы могут настраивать модель для специфических задач разработки через инструменты OpenWebUI;
• Поддержка различных уровней квантования для оптимизации использования памяти.

Начало работы после развертывания gpt-oss-120b¶

После оплаты заказа на указанную при регистрации электронную почту придет уведомление о готовности сервера к работе. В нем будет указан IP-адрес VPS, а также логин и пароль для подключения к серверу и ссылка для доступа к панели OpenWebUI. Управление оборудованием клиенты нашей компании осуществляют в панели управления серверами и API — Invapi.

• Данные для авторизации для доступа к операционной системе сервера (например по SSH) придут к вам в присланном e-mail.

• Ссылка для доступа к панели управления Ollama c Open WebUI с веб-интерфейсом: в теге webpanel во вкладке Информация >> Тэги панели управления Invapi. Точная ссылка вида https://gpt-oss<Server_ID_from_Invapi>.hostkey.in приходит в письме, отправляемом при сдаче сервера.

После перехода по ссылке из тега webpanel будет открыто окно авторизации Get started with Open WebUI, где вам необходимо создать имя, электронную почту и пароль администратора чат бота, а затем нажать на кнопку Create Admin Account:

После успешной регистрации откроется главный интерфейс Open WebUI с доступом к Gpt-oss-20b:

Заказ сервера с gpt-oss-120b с помощью API¶

Для установки данного ПО с использованием API следуйте этой инструкции.