Сервер с Gemma4:26b

Gemma 4 26B A4B — открытая модель Google DeepMind, вышедшая 2 апреля 2026 года. В ней 25,2 млрд параметров, но на каждый токен работают только около 4 млрд: это архитектура со смесью экспертов, поэтому модель считает почти со скоростью четырехмиллиардной, а отвечает заметно лучше. Контекст — 256 тысяч токенов, поддерживается ввод текста, изображений и видео, лицензия Apache 2.0 разрешает коммерческое использование. Запускается на арендованном сервере с видеокартой, данные при этом никуда не уходят.

Что такое Gemma 4 26B A4B

Gemma 4 вышла в четырех размерах: E2B и E4B для устройств, 26B A4B со смесью экспертов и 31B с плотной архитектурой. Обозначение A4B в названии означает количество активных параметров — примерно 4 млрд из 25,2 млрд общих.

По независимым замерам качества версия на 26B заняла шестое место в текстовом рейтинге Arena, плотная версия на 31B — третье. Подробное описание архитектуры и вариантов выложено в карточке модели на Hugging Face.

Почему модель на 26 млрд работает как модель на 4 млрд

В модели со смесью экспертов слои разделены на группы, и на каждый токен маршрутизатор выбирает лишь малую часть из них. Считается только выбранная часть, остальные веса в этот момент не участвуют.

Отсюда два практических следствия, и они тянут в разные стороны.

• Скорость и стоимость вычислений соответствуют примерно четырехмиллиардной модели.
• Объем видеопамяти нужен под все 25,2 млрд параметров, потому что маршрутизатор в любой момент может обратиться к любому эксперту.

Получается, что экономия идет по вычислениям, а не по памяти. Планировать конфигурацию сервера нужно от полного размера модели, а не от активной части — это самая частая ошибка при первом развертывании.

Дополнительно архитектура использует гибридное внимание: слои с окном скользящего внимания чередуются с полными глобальными, причем последний слой всегда глобальный. Это снижает расход памяти на длинном контексте без потери связности.

Сколько нужно видеопамяти

Расчет строится от 25,2 млрд параметров и разрядности весов. Приведенные цифры — ориентиры под сами веса, без учета кеша внимания.

Практическая рекомендация: начинайте с восьмибитного квантования. Оно дает качество, близкое к исходному, и помещается в одну карту — например, в сервер с RTX 5090. Четырехбитное подходит, когда важнее цена, а не точность формулировок.

Контекст на 256 тысяч токенов и его цена

Заявленные 256 тысяч токенов — это потолок модели, а не то, что автоматически поместится в вашу карту. Кеш ключей и значений растет вместе с длиной контекста и на максимальной длине занимает десятки гигабайт сверх весов.

Что с этим делают на практике:

• задают рабочую длину контекста явно, а не оставляют максимум по умолчанию;
• сжимают кеш до восьми бит — качество почти не страдает, память экономится вдвое;
• под длинные документы берут карту с большим объемом, а не более агрессивное квантование весов.

Ориентир для планирования: под задачи вроде обработки обращений или ответов по базе знаний хватает 16–32 тысяч токенов. Полные 256 тысяч нужны при разборе больших документов целиком.

Что модель умеет

• Режим рассуждений с настраиваемой глубиной: модель разбирает задачу по шагам до ответа.
• Работа с изображениями: распознавание объектов, разбор документов и таблиц, чтение текста с картинок и рукописного, понимание интерфейсов.
• Разбор видео по последовательности кадров.
• Смешанный ввод: текст и изображения в произвольном порядке в одном запросе.
• Вызов функций и структурированный вывод — то, на чем строятся автономные сценарии.
• Штатная поддержка системной роли в диалоге.

Аудиовход в этой версии не поддерживается: он есть только у младших моделей семейства, E2B и E4B. Полный список версий и дат выхода Google ведет в журнале релизов Gemma.

Лицензия Apache 2.0 и что она разрешает

Gemma 4 — первая в линейке, вышедшая под Apache 2.0. Предыдущие версии распространялись по собственным условиям Google с политикой запрещенного использования, и юридические службы компаний регулярно тормозили внедрение из-за размытости формулировок.

Apache 2.0 снимает этот вопрос: лицензия разрешает коммерческое использование, изменение и распространение производных моделей, включая дообученные под вашу задачу. Для компаний, которым нужно согласование от юристов, это часто решающий аргумент в пользу Gemma по сравнению с моделями на собственных лицензиях.

Зачем запускать у себя, а не обращаться к внешнему API

Открытые веса имеют смысл ровно тогда, когда важен хотя бы один из четырех пунктов.

Отдельный довод для российских компаний: если в запросах есть персональные данные граждан России, первичная база должна находиться на территории страны по части 5 статьи 18 закона 152-ФЗ. Свой сервер на московской площадке этот вопрос закрывает. Мы не оказываем юридических услуг — схему обработки стоит согласовать с юристом.

Как развернуть на сервере

1. Определите рабочую длину контекста и разрядность весов — от них зависит нужный объем видеопамяти.
2. Выберите конфигурацию с подходящей картой в конфигураторе.
3. Отметьте готовый образ с моделью в маркетплейсе: сервер приедет с установленным движком вывода и сгенерированными доступами.
4. Оплатите по часам или помесячно.
5. Проверьте скорость генерации на своих типовых запросах, а не на демонстрационных.

Аренда серверов с видеокартами начинается от 7500 рублей в месяц, доступна почасовая оплата — удобно, чтобы сначала замерить модель на реальной нагрузке, а потом переходить на месячный тариф. Подобрать конфигурацию можно в разделе аренды GPU-серверов. Для научных проектов и участников соревнований по анализу данных действует отдельная программа грантов на бесплатные серверы с видеокартами.

Коротко

• Gemma 4 26B A4B вышла 2 апреля 2026 года, разработчик — Google DeepMind.
• 25,2 млрд параметров всего, около 4 млрд активных на токен: скорость четырехмиллиардной модели при качестве заметно выше.
• Видеопамять нужна под все параметры: около 25 ГБ при восьмибитном квантовании и около 13 ГБ при четырехбитном.
• Контекст до 256 тысяч токенов, кеш внимания на максимальной длине занимает десятки гигабайт сверх весов.
• Поддерживается ввод текста, изображений и видео; аудио — только у младших моделей семейства.
• Лицензия Apache 2.0 разрешает коммерческое использование и дообучение.
• Запуск на своем сервере оставляет данные у вас и фиксирует стоимость при постоянной нагрузке.