Тут надо сразу расставить точки, потому что вокруг названия путаница. Полноценного Qwen4 не существует. Есть Qwen3.8-Flash‑Next — модель, которую сама команда Qwen называет «экспериментальная версия архитектуры, которая ляжет в основу Qwen4».

26 августа 2026 интернет на пару часов забыл про всё. «Meet Qwen3.8-Flash, a multimodal MoE and an early preview of the Qwen4 architecture, now open‑weight!» И цифры… 125 миллиардов параметров всего. Плюс ещё 51 млрд отдельным слоем. А активируется на каждый токен — лишь 6 миллиардов.

Первая мысль была: так не бывает.

Сегодня мы поговорим не просто об очередном минорном релизе, а о раннем архитектурном превью платформы Qwen 4. Главная идея Qwen 4 заключается в переосмыслении того, как трансформерные блоки обрабатывают контекст и расходуют память.

В этой статье мы разберем новые механизмы (GDN + QSA, Gated Residual, 51B N-gram эмбеддинги), сравним архитектуру и бенчмарки с популярной плотной моделью Qwen 3.8 27B, а также запустим новую модель локально.