Qwen3-Coder¶

В этой статье

• Основные возможности Qwen3-Coder
• Особенности сборки
• Начало работы после развертывания Qwen3-Coder
• Заказ сервера с Qwen3-Coder с помощью API

Основные возможности Qwen3-Coder¶

• Эффективная модель 30B: модель qwen3-coder:30b предлагает 30B общих параметров с активацией всего 3.3B, обеспечивая высокую производительность при сохранении эффективности;
• Исключительные агентные возможности: оптимизирована для реальных задач разработки ПО через продвинутое обучение с подкреплением на долгосрочных задачах с использованием SWE-Bench и аналогичных бенчмарков;
• Поддержка длинного контекста: нативная поддержка 256K токенов с возможностью расширения до 1M токенов с использованием методов экстраполяции, оптимизированных для понимания масштабов репозиториев;
• Масштабированное предобучение: обучена на 7.5 триллионах токенов с 70% соотношением кода, сохраняя при этом сильные общие и математические способности;
• Обучение на основе выполнения: обучение с подкреплением, основанное на выполнении кода, значительно повышает успешность выполнения кода в различных реальных задачах программирования;
• Интеграция с Open Web UI: предоставляет современный веб-интерфейс для удобного взаимодействия с моделью через порт 8080, обеспечивая полный контроль над данными и обработкой запросов;
• Безопасность и контроль: полное локальное развертывание обеспечивает конфиденциальность кода и данных, а настройки OLLAMA_HOST и OLLAMA_ORIGINS гарантируют сетевую безопасность;
• Отказоустойчивость: встроенная система автоматического перезапуска контейнеров и сервисов обеспечивает стабильную работу.
• Примеры использования:
  • Разработка программного обеспечения: автоматизация написания кода, рефакторинга и отладки;
  • Агентные задачи: выполнение сложных многоэтапных задач программирования с использованием инструментов;
  • Работа с браузером: автоматизация веб-разработки и тестирования;
  • Анализ репозиториев: понимание и работа с крупными кодовыми базами;
  • Code Review: автоматический анализ и улучшение качества кода;
  • Документирование кода: генерация технической документации и комментариев.

Особенности сборки¶

Технические характеристики сборки:

• Ubuntu 22.04 с обновлением ядра до 6 версии;
• Nvidia драйверы последней версии;
• CUDA Toolkit;
• Ollama для управления моделями;
• OpenWebUI для веб-интерфейса.

Особенности установки:

• Время на установку 25-45 минут вместе с OS;
• Сервер Ollama загружает и запускает модель Qwen3-Coder в память GPU/RAM;
• Open WebUI развертывается как веб-приложение, подключенное к серверу Ollama;
• Пользователи взаимодействуют с моделью через веб-интерфейс Open WebUI для программирования и агентных задач;
• Все вычисления и обработка кода происходят локально на сервере;
• Администраторы могут настраивать модель для специфических задач разработки через инструменты OpenWebUI;
• Поддержка различных уровней квантования для оптимизации использования памяти.

Начало работы после развертывания Qwen3-Coder¶

После оплаты заказа на указанную при регистрации электронную почту придет уведомление о готовности сервера к работе. В нем будет указан IP-адрес VPS, а также логин и пароль для подключения к серверу и ссылка для доступа к панели OpenWebUI. Управление оборудованием клиенты нашей компании осуществляют в панели управления серверами и API — Invapi.

• Данные для авторизации для доступа к операционной системе сервера (например по SSH) придут к вам в присланном e-mail.

• Ссылка для доступа к панели управления Ollama c Open WebUI с веб-интерфейсом: в теге webpanel во вкладке Информация >> Тэги панели управления Invapi. Точная ссылка вида https://qwen3-coder<Server_ID_from_Invapi>.hostkey.in приходит в письме, отправляемом при сдаче сервера.

После перехода по ссылке из тега webpanel будет открыто окно авторизации Get started with Open WebUI, где вам необходимо создать имя, электронную почту и пароль администратора чат бота, а затем нажать на кнопку Create Admin Account:

После успешной регистрации откроется главный интерфейс Open WebUI с доступом к Qwen3-Coder:

Заказ сервера с Qwen3-Coder с помощью API¶

Для установки данного ПО с использованием API следуйте этой инструкции.