разбор · aiтема в работе · H 1.30
3.0
из 10
смотреть не обязательно — забрать выжимку и пункты
оценка машинная и частично зависит от длины ролика — спорите, открывайте оригинал
Gemma 2 12B: локальная модель для кода с балансом скорости и качества
Gemma 2 12B: The Sweet Spot for Local AI Coding
Google GEM 412B - это модель искусственного интеллекта, которая обеспечивает компромисс между скоростью и глубиной рассуждений, идеально подходящая для повседневных задач. Архитектура модели позволяет ей работать на обычных ПК без дополнительных серверов, что делает нейросеть реальным личным инструментом.
Gemma 3 12B — локальная модель без энкодеров: 56 токенов/с на 24 ГБ, сильна в коде и физике, но пасует в…
что из этого моё
Оператору входа в AI это может помочь в оркестрации моделей и автоматизации, предоставляя инструменты для работы с AI на уровне потребительского оборудования и обеспечивая быструю генерацию кода и графики без облачных серверов.
Что забрать
отметь, что берёшь в работу → или отбрось как не своёмоё →
замерить скорость генерации кода на Gemma 2 12B на своей машине
проверить, работает ли Gemma 2 12B через Ollama в текущем конвейере разборов
о чём говорят, по времени
главы доводят до 09:22 · дальше по ролику меток нет
01
Введение00:02 ↗
История и сложности локального запуска AI.
02
Google GEM 412B01:05 ↗
Введение новой модели Google.
03
Архитектура без энкодеров03:07 ↗
Новая архитектура модели GEM 412B.
04
Кроссмодальное внимание06:44 ↗
Преимущества новой архитектуры.
05
Упрощение использования09:22 ↗
Снижение требований к аппаратным ресурсам.