#llama.cpp

'IBM анонсировала Granite 4.0 Nano — восемь компактных моделей (350M и ~1B) в гибридных и трансформерных вариантах для локального и edge-инференса с корпоративным управлением.'

'Liquid AI представила LFM2-8B-A1B — разреженный MoE с 8.3 млрд параметров, который активирует около 1.5 млрд параметров на токен и ориентирован на запуск на телефонах и edge-устройствах.'

'Neuphonic выпустила NeuTTS Air — 748M-параметровую on-device TTS-модель, клонирующую голос за ~3 секунды и работающую локально через GGUF-квантизации для CPU-first синтеза.'