Сервер с North Mini Code 1.0

North Mini Code 1.0 — открытая модель Cohere Labs, опубликованная 9 июня 2026 года. В ней 30 млрд параметров, из которых на каждый токен работают около 3 млрд: разреженная смесь из 128 экспертов, где на токен активируются восемь. Модель сделана под одну задачу — писать код, работать с терминалом и вести автономные сценарии разработки. Контекст 256 тысяч токенов, вывод до 64 тысяч. Помещается в карту на 24 ГБ, то есть это самая скромная по требованиям модель для кода в маркетплейсе.

Что такое North Mini Code 1.0

Это первая модель семейства North у канадской компании Cohere, выпущенная как исследовательский релиз с открытыми весами.

Внимание в модели устроено чередованием: три слоя с окном скользящего внимания на каждый слой полного глобального. Такая схема снижает расход памяти на длинном контексте, не теряя связей между удалёнными частями кода. Полное техническое описание разработчик выложил в карточке модели на Hugging Face.

Для чего модель сделана

Дообучение шло в два этапа: сначала обучение с учителем, затем обучение с подкреплением на проверяемых наградах — то есть на задачах, где результат можно автоматически проверить запуском. Отсюда и специализация.

• Генерация и правка кода на уровне репозитория.
• Работа в терминале: запуск команд, разбор вывода, исправление ошибок.
• Автономные сценарии разработки с вызовом инструментов.
• Разбор задач из систем отслеживания ошибок и подготовка исправлений.

По индексу качества кода независимого рейтинга Artificial Analysis модель набирает 33,4 балла и обходит открытые модели сопоставимого размера, включая Qwen3.5 на 35 млрд параметров и Gemma 4 на 26 млрд, а также ряд существенно более крупных. Оговорка по честности: сравнение проводилось с поколением Qwen3.5, а не с более свежим Qwen3.6.

Для универсальных задач — переписки, работы с документами, перевода — модель подходит хуже специализированных под это. Она узкая, и в этом её смысл.

Сколько нужно видеопамяти

Расчёт от 30 млрд параметров. Цифры относятся к весам, кеш внимания считается отдельно.

Разработчик выпустил официальный квантованный вариант, где до четырёх бит ужаты только эксперты, а слои внимания, плотный слой и маршрутизатор оставлены в большей разрядности. Веса при этом занимают порядка 18–20 ГБ, а качество на задачах с кодом почти не проседает. Это лучший вариант для старта: он даёт рабочую модель на карте среднего класса без самостоятельного подбора квантования.

Надёжный минимум — 24 ГБ видеопамяти. Полный контекст на 256 тысяч токенов добавляет к расходу ещё десятки гигабайт, поэтому под длинные сценарии берут карту на 48 ГБ либо ограничивают рабочую длину окна.

Подключение к средам разработки

Модель рассчитана на работу внутри инструментов разработчика, а не в окне переписки. Она поднимается локально на сервере, и клиенты обращаются к ней по сети как к обычному интерфейсу программирования.

Три момента, которые стоит учесть при настройке:

• Описания инструментов передавайте схемой JSON — модель обучена именно на таком формате, и на свободном текстовом описании точность вызовов падает.
• Поднимайте службу на сервере, а обращайтесь к ней с рабочих машин: одна арендованная карта обслуживает команду, а не одного человека.
• Закройте доступ к службе списком адресов или защищённым каналом — открытый в интернет интерфейс модели становится чужим бесплатным ресурсом за считанные часы.

Запустить модель проще всего через библиотеку Ollama: она же обеспечивает совместимый интерфейс для клиентских инструментов разработки.

Режим рассуждений и как им правильно пользоваться

Модель обучена с чередующимися рассуждениями и работает лучше всего, когда этот режим включён. Отключать его ради экономии токенов — типичная ошибка, которая заметно роняет качество на задачах с кодом.

Второй момент менее очевиден. Сгенерированные рассуждения нужно передавать дальше — в следующие шаги сценария и в следующие реплики диалога. Модель опирается на собственный ход мысли из предыдущих шагов, и если обрезать его при формировании запроса, она начинает разбираться в задаче заново на каждом шаге.

На практике это означает, что при интеграции нельзя просто отбрасывать служебную часть ответа. Проверьте, как ваш клиент собирает историю: многие по умолчанию оставляют только итоговый текст.

Лицензия: Apache 2.0 с оговоркой

Веса опубликованы под Apache 2.0, которая разрешает коммерческое использование, изменение и распространение производных моделей. Но есть дополнение: разработчик требует соблюдать также собственную политику допустимого использования.

Это отличает North Mini Code от моделей с чистой Apache 2.0. Практического ограничения для обычной разработки здесь нет, но юридической службе документ показать стоит — особенно если у компании есть внутренние правила по лицензиям на программное обеспечение. Ситуация ровно та, из-за которой раньше тормозили внедрение открытых моделей: сама лицензия свободная, а рядом лежит отдельный документ с условиями.

Какую модель для кода выбрать

Если нужен один инструмент под разработку и ничего кроме — берите North Mini Code, он для этого и сделан. Если та же карта должна закрывать ещё и разбор документов, изображений или переписку, практичнее Qwen3.6 35B. Обе модели помещаются в одну карту на 24 ГБ, так что сравнить их на своих задачах можно на одном сервере.

Как развернуть на сервере

1. Определите рабочую длину контекста: она сильнее всего влияет на требуемый объём памяти.
2. Выберите конфигурацию с картой от 24 ГБ, под длинные сценарии — от 48 ГБ.
3. Отметьте готовый образ с моделью в маркетплейсе: сервер приедет с установленным движком вывода и доступами.
4. Ограничьте доступ к службе и проверьте, что рассуждения передаются между шагами.
5. Замерьте скорость на своих задачах — на реальном репозитории, а не на демонстрационном примере.

Аренда начинается от 7500 руб. в месяц, доступна почасовая оплата — удобно, чтобы сравнить несколько моделей за один вечер и оставить подходящую. Подобрать конфигурацию можно в разделе серверов с видеокартами.

Коротко

• North Mini Code 1.0 — открытая модель Cohere Labs от 9 июня 2026, 30 млрд параметров при 3 млрд активных.
• Модель узкая: код, терминал и автономные сценарии разработки, без универсальных задач.
• Надёжный минимум — 24 ГБ видеопамяти; официальный квантованный вариант занимает 18–20 ГБ.
• Контекст 256 тысяч токенов, вывод до 64 тысяч.
• Режим рассуждений отключать не стоит, а сгенерированные рассуждения нужно передавать в следующие шаги.
• Описания инструментов передаются схемой JSON — на свободном описании точность падает.
• Лицензия Apache 2.0, но с отдельной политикой допустимого использования от разработчика.