Сбер представил передовую мультимодальную модель GigaChat 3.5 Reasoning с архитектурой, ориентированной на рассуждения, и опубликовал её параметры в открытом доступе под лицензией MIT.
Основу модели составляет архитектура Mixture-of-Experts (MoE) с общей численностью параметров в 432 миллиарда, из которых для каждого токена активируются 28 миллиардов. Ключевым инженерным новшеством стало внедрение гибридного механизма внимания: традиционный Multi-head Latent Attention (MLA) был объединён со слоями линейного внимания GatedDeltaNet. Эта инновация уменьшила нагрузку на память видеокарт при обработке длинных контекстов и сократила размер KV-кэша примерно в четыре раза по сравнению с предыдущей версией GigaChat 3.1 Ultra.
Особое внимание разработчики уделили оптимизации расходов на рассуждения. В математических задачах GigaChat 3.5 Reasoning использует на 37% меньше токенов для рассуждений по сравнению с конкурирующей моделью DeepSeek V4 Flash Preview, при этом сохраняя сопоставимую точность ответов.
Модель уже доступна в веб-интерфейсе GigaChat, где режим цепочки мыслей активируется отдельной кнопкой. Веса модели в форматах bf16 и квантованном GGUF можно скачать бесплатно на платформе Hugging Face. В ближайшем будущем Сбер планирует предоставить доступ к этой новинке через коммерческий API.
Источник: Код.ру
Читайте также:
Сайты российских банков перестали работать в зарубежных браузерах
Apple введёт платный доступ к некоторым функциям Siri
Bing тестирует отображение цены прямо на изображениях товаров