#MoE

'Moonshot AI представила Kimi K2 Thinking — open-weights MoE-агент на 1 трлн параметров с 256K контекстом и нативной INT4, способный выполнять сотни последовательных вызовов инструментов для задач с длительными рассуждениями.'

'MiniMax-M2 — компактная MoE с открытыми весами на Hugging Face, оптимизированная под кодирование и агентные цепочки с примерно 10B активных параметров на токен и обещанной скоростью ~2x при ~8% стоимости Claude Sonnet.'

IBM выпустила Granite 4.0 — семейство гибридных Mamba-2/Transformer моделей, сокращающее требования к памяти более чем на 70% для длинного контекста без потери качества.

'Alibaba открыла исходники Tongyi DeepResearch-30B-A3B — MoE-модель с 128K контекстом для длительных исследований и высокими результатами в бенчмарках.'

'CloudMatrix объединяет 384 Ascend 910C и 192 Kunpeng в peer-to-peer суперузел для масштабного и эффективного сервинга LLM, улучшая пропускную способность и снижая латентность.'

Baidu выпустила ERNIE 4.5 — серию открытых больших языковых моделей с параметрами от 0.3 до 424 миллиардов, обладающих продвинутой архитектурой и высокой производительностью в многоязычных задачах.