Institute of Foundation Models опубликовал 16 ноября 2026 года подробный научный отчёт о K2 Horizon — семействе из шести языковых моделей с открытыми весами, данными, кодом и историей обучения. Сами модели были представлены раньше, 3 сентября. Поэтому ноябрьская новость — не повторный запуск флота, а раскрытие технической методики и артефактов, позволяющих глубже проверить заявления разработчиков.
Семейство охватывает модели от 0,9 млрд до 375 млрд параметров: от носимых устройств до серверных агентных сценариев. В сентябрьском пресс-релизе IFM заявлена лицензия Apache 2.0 для моделей и кода, а отчёт на arXiv добавляет архитектуру, данные, промежуточные состояния, тренировочные журналы и описание инфраструктуры.
Шесть моделей K2 Horizon
| Модель | Архитектура | Для какого сценария задумана |
|---|---|---|
| 0.9B | Dense | Часы, очки и сильно ограниченные устройства |
| 3.7B | Dense | Телефоны, дообучение и небольшие локальные приложения |
| 7B | Dense | Мобильные и локальные сценарии, код и исследование |
| 32B | Dense | Локальные серверы и более тяжёлая обработка |
| MoVA-36B-A4B | MoE с Mixture-of-Value Attention | Эффективный серверный инференс при малых активных параметрах |
| 375B-A23B | MoE | Флагманские рассуждения и сложные агентные задачи |
Число после A обозначает ориентировочное количество активных параметров на токен, но для MoVA в отчёте уточняется значение около 4,6 млрд. Общий размер всё равно влияет на хранение весов и инфраструктуру. Поэтому сравнивать модели только по активным параметрам нельзя: задержка и расход памяти зависят от реализации, квантования, контекста и оборудования.
Почему этот релиз открыт больше, чем open weights
Фраза «открытая модель» часто означает только возможность скачать финальные веса. K2 Horizon публикует гораздо больше: промежуточные чекпоинты каждого этапа, предобучающие данные, тренировочные логи, код обучения, оценки и инфраструктуры. Среди компонентов — xLLM для dense и MoE, RL360 для обучения с подкреплением и Eval360 для оценки.
| Артефакт | Что даёт исследователю |
|---|---|
| Финальные веса | Запуск и сравнение моделей |
| 380 чекпоинтов | Анализ развития способностей по этапам |
| 23 квантованные сборки | Подбор соотношения памяти, скорости и качества |
| 21,6 ТБ данных | Изучение состава обучающей смеси |
| 58 тренировочных запусков | Проверка динамики и воспроизведение решений |
| 17 репозиториев | Повторение pipeline, оценок и инфраструктуры |
Четыре модели — 3.7B, 7B, 32B и 36B-A4B — обучались на одном корпусе из 22 трлн токенов по единому рецепту, а две пары получали идентичные батчи. Это позволяет изучать влияние масштаба и разреженности без постоянной смены данных. Около 10 трлн токенов предобучающего корпуса — синтетические; авторы также раскрывают pipeline их создания.
Открытость не гарантирует, что любой исследователь повторит обучение на домашнем сервере. Для этого нужны значительные вычислительные ресурсы и время. Но появляется возможность проверить отдельные решения, сравнить чекпоинты и найти причины поведения, чего закрытый API не даёт. Подробнее о разнице подходов — в открытые и закрытые модели.
MoVA: разреженность внутри внимания
Mixture-of-Value Attention применяет идею mixture of experts к проекциям value в механизме внимания. Вместе с softplus attention gating это должно усиливать рассуждения без пропорционального увеличения вычислений на каждый токен. Практический смысл — получить поведение близкое к более плотной модели, активируя лишь часть параметров.
В отчёте MoVA-36B-A4B сравнивается с собственной dense 32B, обученной на тех же данных. По заявлению авторов, разреженная модель почти совпадает с ней по проверкам, используя примерно в семь раз меньше активных параметров. Это важный результат, но сравнение с собственной 32B не доказывает лидерство над всеми внешними моделями.
Для инженерной команды здесь важны два отдельных теста: качество на своих заданиях и фактическая эффективность сервинга. Бенчмарк может показать близкие ответы, а production — другую задержку из-за маршрутизации экспертов, памяти, размера батча или конкретной версии vLLM и SGLang.
Uno: ускорение без отдельной черновой модели
Uno — diffusion-адаптеры, дистиллированные из модели и генерирующие токены блоками. В научном отчёте заявлено ускорение декодирования до 2,2 раза без потери качества и без отдельной draft model. Сентябрьский пресс-релиз описывает технологию diffusion distillation более широко и говорит о примерно трёхкратном ускорении в отдельных условиях.
Эти значения не стоит складывать или считать гарантированными. Они относятся к разным описаниям и конфигурациям. В собственном пилоте нужно измерить скорость на реальной длине контекста, долю принятых результатов и стабильность качества. Для агента важна не только генерация токенов, но и ожидание инструментов, повторные попытки и финальная проверка.
Что отчёт говорит о длинном контексте
Mid-training расширяет контекст поэтапно: от 32 тыс. до 128 тыс. и затем до 512 тыс. токенов у основных моделей. В данных появляются длинные документы, код, рассуждения, инструкции и агентные траектории. Модель 0.9B останавливается на 128 тыс., чтобы сохранить пригодность для устройств с ограниченной памятью.
Большой контекст не означает одинаково точное использование каждого фрагмента. Для рабочей проверки следует помещать ключевые факты в разные части документа, задавать вопросы с цитатами и сравнивать полный корпус с заранее подготовленным набором ответов. Так можно отличить формальную длину окна от полезного понимания.
Как выбрать размер под задачу
| Условие | С чего начать | Что проверить |
|---|---|---|
| Минимум памяти и автономность | 0.9B или 3.7B | Реальное качество на узком наборе команд |
| Локальный помощник | 7B | Контекст, квантование и задержку устройства |
| Сервер отдела | 32B или MoVA-36B-A4B | Пропускную способность и сложные сценарии |
| Трудное рассуждение | 375B-A23B | Стоимость инфраструктуры и выигрыш против меньших моделей |
| Обучение и аудит | Общий корпус четырёх моделей | Влияние размера и архитектуры при равных данных |
Хорошая стратегия — не выбирать флагман заранее. Начните с минимальной модели, которая проходит обязательные проверки, и эскалируйте только неудачные категории. Этот принцип совпадает с маршрутизацией в СуперИнтеллекте и Microsoft Decision 1.1. Подробный разбор — в маршрутизация моделей.
Практический план оценки открытого флота
- Соберите 50–100 реальных заданий с эталонными критериями: документы, код, анализ, вызов инструментов и отказ при нехватке данных.
- Разделите задания по риску и сложности, чтобы не усреднять простые и критичные ошибки.
- Запустите одинаковый inference stack для сопоставимых моделей и зафиксируйте квантование, версию и параметры генерации.
- Измерьте правильность, цитирование источников, число повторов, полное время и память.
- Проверьте хотя бы один промежуточный чекпоинт, если хотите понять происхождение ошибки, а не только сравнить финальные версии.
- Выберите минимальную подходящую модель и оставьте маршрут эскалации к более сильной.
Сравни две модели на одном наборе рабочих заданий.
Для каждого задания верни:
— правильность по критериям;
— подтверждающую цитату или выполненную проверку;
— полное время с учётом повторов;
— тип ошибки и её риск;
— нужна ли модель большего размера.
Не выбирай победителя по среднему баллу, если у него есть критические сбои.
Отдельно назови задания, где данных для вывода недостаточно.Что взять командам без собственного обучения
Даже если компания не планирует разворачивать K2 Horizon, отчёт полезен как карта зрелого AI-процесса. Нужно хранить версии данных и конфигураций, оценивать промежуточные состояния, разделять обучение и оценку, проверять безопасность и оптимизировать инференс после измерения качества. Эти принципы применимы и к цифровым сотрудникам без обучения собственной модели.
В СуперИнтеллекте такой процесс можно построить вокруг баз знаний, задач, агентов и нескольких семейств моделей. Один сотрудник готовит черновик, другой проверяет факты, третий выполняет повторяемую операцию. Для практического устройства см. ИИ-агенты в СуперИнтеллекте, а для примера специализированной открытой модели — Hydrogen-1.0 для науки.
Частые вопросы
K2 Horizon вышел 16 ноября?
Флот был представлен 3 сентября 2026 года. 16 ноября опубликован подробный научный отчёт с архитектурой, данными, этапами обучения и артефактами. Это уточнение важно для корректной датировки новости.
K2 Horizon полностью open source?
IFM публикует веса, код, данные, методики, логи и промежуточные чекпоинты под Apache 2.0 для моделей и кода. Это существенно шире обычного открытия весов, хотя воспроизведение всё равно требует больших ресурсов и проверки условий отдельных данных.
Какая модель подходит для телефона?
IFM позиционирует 3.7B и 7B для телефонов и локальных сценариев, а 0.9B — для ещё более ограниченных устройств. Фактическая работа зависит от памяти, квантования, приложения и требуемого качества.
Чем MoVA-36B-A4B отличается от 32B?
Она использует разреженную архитектуру и активирует около 4,6 млрд параметров на токен. По данным авторов, качество близко к их dense 32B при значительно меньшем числе активных параметров, но production-эффективность нужно измерять отдельно.
K2 Horizon уже есть в СуперИнтеллекте?
На момент подготовки статьи модели семейства не заявлены как активные записи каталога. В платформе можно сравнивать доступные GPT-6.2, Claude, Gemini, Kimi и Qwen и применять тот же принцип выбора размера под задачу.
Итог и источники
K2 Horizon важен не только шестью размерами, но и публикацией процесса обучения. MoVA и Uno показывают путь к эффективному инференсу, а чекпоинты и общие корпуса — к проверяемой науке о моделях. Для практики главный вывод прост: выбирайте минимальную модель, которая надёжно завершает задачу, и сохраняйте путь эскалации. Источники: пресс-релиз IFM и научный отчёт K2 Horizon. Дополнительно: Hydrogen-1.0 для науки, маршрутизация моделей и обзор Qwen4 Max.
Соберите свой маршрут моделей в СуперИнтеллекте — автовыбор и ручное сравнение моделей, цифровые сотрудники, базы знаний, ПК-версия для macOS, Windows и Linux, 100 нейронов в месяц бесплатно, оплата картой РФ или по счёту.




