разбор · синтетические данные
2.0
из 10
смотреть не обязательно — забрать выжимку и пункты
оценка машинная и частично зависит от длины ролика — спорите, открывайте оригинал
Четыре войны AI-стека: синтетика, гибриды, on-device
The Winds of AI Winter (Q2 Four Wars of the AI Stack Recap)
Обзор четырёх войн AI-стека за Q2 2024: Claude 3.5 лидирует, Llama 3.1 задаёт тренд на синтетические данные, гибридные архитектуры и on-device модели становятся нормой. Главный вывод: ценность смещается от фундаментальных моделей к вертикальным решениям и эффективному инференсу.
Claude и Llama 3.1 задают тренд: синтетика и открытые веса. Инференс уходит на устройства, а стоимость…
что из этого моё
Для оператора входа в AI важно: использовать синтетические данные для дообучения специализированных агентов, внедрять гибридные архитектуры для снижения затрат на инференс, а также следить за on-device моделями для быстрых и приватных сценариев. Эти подходы напрямую применимы при оркестрации моделей и автоматизации.
Что забрать
отметь, что берёшь в работу → или отбрось как не своёмоё →
изучить рецепты синтетических данных из Llama 3.1 для пост-обучения своей модели
замерить стоимость инференса при гибридной архитектуре с соотношением глобального и локального внимания 1:5
проверить поддержку INT8/FP8 в своей модели и настроить квантизацию
о чём говорят, по времени
главы доводят до 28:00 · дальше по ролику меток нет
01
Введение и Sovereign AI00:00 ↗
Обсуждение поездки в Сингапур, саммита Sovereign AI и тренда на национальные AI-стратегии.
02
Фронт-модели: Claude 3.505:00 ↗
Claude 3.5 становится лидером, анализируются причины успеха и интерпретируемость.
03
Llama 3.1 и синтетические данные12:00 ↗
Meta выпускает Llama 3.1 с открытым рецептом синтетических данных.
04
Mistral Large 2 и конкуренция20:00 ↗
Mistral выпускает Large 2, но теряет позиции на фоне Meta.
05
Инференс и on-device28:00 ↗
Оптимизация инференса, гибридные архитектуры и тренд на локальные модели.