GEM 4: архитектура для эффективных локальных моделей
GEM 4 архитектура от Google DeepMind позволяет создавать эффективные нейросети с меньшим количеством параметров, способные к продвинутому рассуждению и автономным рабочим процессам. Новые модели оптимизированы для работы на устройствах с ограниченными ресурсами и поддерживают мультимодальность, что открывает новые возможности для локального ИИ и влияет на концепцию приватности.
Gemma 4: эффективная архитектура (GQA, MoE, PLE) позволяет малым моделям обходить гигантов, работать локально
Цифра «31 млрд параметров на третьем месте LMArena» — готовый довод в разговоре с малым бизнесом, который боится счетов за облако: модель на своём железе перестала быть компромиссом. Устройство слоёв и Mixture of Experts из этого же видео на подряды не ложится.