Gemma-4-26B¶

В этой статье

• Основные возможности Gemma-4-26B
• Особенности сборки
• Начало работы после развертывания Gemma-4-26B
• Заказ сервера с Gemma-4-26B с помощью API

Основные возможности Gemma-4-26B¶

• Архитектура Mixture of Experts (MoE): модель содержит 25.2B активных параметров при 26B общих, активируя лишь ~3.8B параметров на каждый токен, что обеспечивает скорость работы плотной 4B-модели при интеллекте уровня 26B;
• Мультимодальность: нативная поддержка обработки текстового и графического ввода с генерацией текстового вывода;
• Огромное контекстное окно: поддержка до 256K токенов позволяет работать с длинными документами, большими кодовыми базами и сложными диалогами;
• Режим мышления (Thinking Mode): настраиваемый режим рассуждения для решения сложных логических и аналитических задач;
• Агентские возможности: нативная поддержка function calling и структурированного вывода для интеграции с внешними инструментами и API;
• Гибкость развертывания: полная версия требует ~80GB VRAM, но Q4-квантизация позволяет запускать модель на 24GB GPU, а оптимизированные сборки — на 16GB VRAM;
• Интеграция с Open Web UI: современный веб-интерфейс для взаимодействия через порт 8080 с полным контролем над данными и обработкой запросов;
• Масштабируемость: поддержка многокарточных конфигураций и распределения нагрузки между несколькими GPU;
• Безопасность и контроль: локальное развертывание обеспечивает конфиденциальность данных, настройки OLLAMA_HOST и OLLAMA_ORIGINS гарантируют сетевую безопасность;
• Производительность: использование LLAMA_FLASH_ATTENTION и эффективной архитектуры MoE для ускорения обработки запросов;
• Отказоустойчивость: встроенная система автоматического перезапуска контейнеров и сервисов для стабильной работы.

Особенности сборки¶

Начало работы после развертывания Gemma-4-26B¶

После оплаты заказа на указанную при регистрации электронную почту придет уведомление о готовности сервера к работе. В нем будет указан IP-адрес VPS, а также логин и пароль для подключения к серверу и ссылка для доступа к панели OpenWebUI. Управление оборудованием клиенты нашей компании осуществляют в панели управления серверами и API — Invapi.

• Данные для авторизации для доступа к операционной системе сервера (например по SSH) придут к вам в присланном e-mail.

• Ссылка для доступа к панели управления Ollama c Open WebUI с веб-интерфейсом: в теге webpanel во вкладке Конфигурация >> Теги панели управления Invapi. Точная ссылка вида https://gemma<Server_ID_from_Invapi>.hostkey.in приходит в письме, отправляемом при сдаче сервера.

После перехода по ссылке из тега webpanel будет открыто окно авторизации Get started with Open WebUI, где вам необходимо создать имя, электронную почту и пароль администратора чат бота, а затем нажать на кнопку Create Admin Account:

Заказ сервера с Gemma-4-26B с помощью API¶

Установка данного ПО с использованием API описана в данном руководстве.