Сервер с Qwen3.6:35b

Qwen3.6-35B-A3B — открытая модель команды Qwen компании Alibaba, веса опубликованы в апреле 2026 года под лицензией Apache 2.0. В ней 35 млрд параметров, из которых на каждый токен работают около 3 млрд: это разреженная смесь экспертов, поэтому скорость близка к трехмиллиардной модели. Контекст — 262 тысячи токенов, с расширением примерно до миллиона. Модель заточена под работу с кодом и автономные сценарии, принимает текст, изображения и видео. Запускается на арендованном сервере с видеокартой от 24 ГБ.

Что такое Qwen3.6-35B-A3B

Суффикс A3B в названии означает количество активных параметров: около 3 млрд из 35 млрд общих. Это первая открытая модель поколения Qwen3.6, до нее семейство было доступно только через интерфейс программирования.

Официальный разбор с результатами тестов разработчик опубликовал в анонсе модели.

На что модель рассчитана

Qwen3.6-35B-A3B позиционируется как модель для работы с кодом и автономных сценариев, а не как универсальный собеседник. По опубликованным разработчиком замерам она набирает 73,4% на наборе задач SWE-bench Verified и 51,5% на Terminal-Bench 2.0 — это уровень, который раньше показывали заметно более крупные плотные модели.

Где это применимо на практике:

• разбор и правка кода на уровне целого репозитория, а не отдельного файла;
• автономные сценарии с вызовом инструментов: чтение файлов, запуск команд, работа с системой контроля версий;
• задачи фронтенда, где нужно понимать разметку и внешний вид одновременно;
• ответы по внутренней документации в связке с поиском по базе знаний;
• разбор изображений и видео — например, снимков интерфейса или записи экрана.

Отдельная особенность — сохранение рассуждений между сообщениями. Модель удерживает ход мысли из предыдущих шагов, и в длинных сценариях это заметно снижает расход токенов на повторное объяснение контекста.

Архитектура: 256 экспертов и гибридное внимание

В модели 256 экспертов, из которых на каждый токен активируются восемь маршрутизируемых и один общий. Отсюда и разрыв между общим и активным размером.

Внимание устроено гибридно: слои линейного внимания чередуются со слоями обычного управляемого внимания. Первые дешевле по памяти на длинных последовательностях, вторые точнее удерживают связи между удаленными частями текста. Такое чередование и позволяет держать контекст в сотни тысяч токенов без пропорционального роста расхода памяти.

Важное следствие для планирования сервера: экономия идет по вычислениям, а не по памяти. В видеопамять нужно уложить все 35 млрд параметров, потому что маршрутизатор в любой момент может обратиться к любому эксперту. Считать конфигурацию по трем миллиардам активных — самая частая ошибка при первом развертывании.

Сколько нужно видеопамяти и какая карта подойдет

Расчет идет от 35 млрд параметров и разрядности весов. Цифры ниже — ориентиры под веса, без кеша внимания.

Отдельно стоит сказать то, чего обычно не пишут на страницах аренды: карты на 16 ГБ для этой модели не подходят даже при четырехбитном квантовании. RTX A4000 и другие решения этого класса стоит рассматривать под модели поменьше. Если бюджет упирается в 16 ГБ, разумнее взять плотную модель на 27 млрд параметров, а не пытаться ужать эту.

Практический ориентир: 24 ГБ дают рабочий четырехбитный вариант, 48 ГБ — восьмибитный с длинным контекстом.

Контекст: 262 тысячи нативно и миллион с расширением

Штатное контекстное окно — 262 144 токена. Механизм масштабирования позиционного кодирования расширяет его примерно до миллиона, но за это платят и качеством на краях окна, и памятью.

Что делают на практике:

• задают рабочую длину контекста явно, а не оставляют максимум по умолчанию;
• сжимают кеш ключей и значений до восьми бит — память экономится вдвое при почти неизменном качестве;
• под работу с большими репозиториями комбинируют модель с поиском по базе знаний вместо загрузки всего кода в контекст.

Последний прием обычно эффективнее наращивания окна: он и дешевле по памяти, и точнее по результату.

Qwen3.6 35B или Gemma 4 26B

Обе модели — открытые смеси экспертов под Apache 2.0, обе доступны в маркетплейсе. Выбор определяется задачей.

Коротко: под разработку и автономные сценарии берут Qwen, под общие задачи и меньший бюджет по видеопамяти — Gemma 4 26B. Обе можно развернуть на одном сервере и сравнить на своих задачах.

Лицензия и запуск на своем оборудовании

Apache 2.0 разрешает коммерческое использование, изменение и распространение производных моделей, включая дообученные под конкретную задачу. Отдельного согласования с разработчиком не требуется, ограничений по областям применения лицензия не содержит.

Запуск на своем сервере имеет смысл, когда важен хотя бы один пункт: код и внутренняя документация не должны уходить наружу, нагрузка постоянная и почасовая оплата внешнего сервиса выходит дороже аренды, нужна доработка модели под свой стек. Для российских компаний добавляется правовой аргумент: если в обработке участвуют персональные данные граждан России, первичная база по части 5 статьи 18 закона 152-ФЗ должна находиться на территории страны. Мы не оказываем юридических услуг — схему обработки согласуйте с юристом.

Как развернуть на сервере

1. Определите рабочую длину контекста и разрядность весов — от них зависит нужный объем видеопамяти.
2. Выберите конфигурацию с картой от 24 ГБ, под восьмибитный вариант — от 48 ГБ.
3. Отметьте готовый образ с моделью в маркетплейсе: сервер приедет с установленным движком вывода и доступами.
4. Оплатите по часам или помесячно.
5. Замерьте скорость генерации на своих типовых запросах, а не на демонстрационных.

Модель совместима с распространенными движками вывода — Transformers, vLLM, SGLang, KTransformers, а также запускается через библиотеку Ollama. Аренда серверов с видеокартами начинается от 7000 в месяц, доступна почасовая оплата: удобно замерить модель на реальной нагрузке до перехода на месячный тариф. Подобрать конфигурацию можно в разделе аренды GPU-серверов.

Коротко

• Qwen3.6-35B-A3B — открытая модель Alibaba, веса опубликованы в апреле 2026 под Apache 2.0.
• 35 млрд параметров всего, около 3 млрд активных: скорость трехмиллиардной модели при качестве заметно выше.
• Модель заточена под работу с кодом, автономные сценарии и вызов инструментов.
• Видеопамять нужна под все параметры: от 24 ГБ при четырехбитном квантовании, от 48 ГБ при восьмибитном.
• Карты на 16 ГБ не подходят даже при четырехбитном квантовании.
• Контекст 262 тысячи токенов, расширяется примерно до миллиона ценой памяти и качества.
• Принимает текст, изображения и видео; сохраняет рассуждения между шагами сценария.