разбор · оркестрациятема-фронтир · H 1.49
6.0
из 10
смотреть не обязательно — забрать выжимку и пункты
оценка машинная и частично зависит от длины ролика — спорите, открывайте оригинал
Роутинг моделей и управление контекстом определяют интеллект агента
Expensive Model ≠ Smart Agent: The Brain Anatomy of a Senior AI Agent
Интеллект агента зависит не от дорогой модели, а от грамотного роутинга и управления контекстом. Используйте классификатор для выбора модели по запросу, учитывайте кэш и наблюдаемость. Выбор между RAG и длинным контекстом — баланс между сложностью, полнотой и стоимостью.
Интеллект агента — в инфраструктуре: роутинг, память, бюджет контекста. Правильная архитектура важнее модели.
что из этого моё
Подробный разбор роутинга моделей, управления контекстом и интеграции знаний поможет построить эффективную инфраструктуру агента, снизить расходы и повысить качество ответов, что критично для оркестрации и автоматизации AI-систем.
Что забрать
отметь, что берёшь в работу → или отбрось как не своёмоё →
настроить классификатор для выбора модели по типу и сложности запроса
внедрить логирование выбранной модели, стоимости и попадания в кэш
добавить резервные правила выбора модели при сбоях классификатора
о чём говорят, по времени
главы доводят до 09:47 · дальше по ролику меток нет
01
Введение и проблема стоимости00:00 ↗
Объяснение высокой стоимости вызовов моделей и важности управления контекстом и роутингом.
02
Роутинг моделей01:02 ↗
Как классификатор выбирает между дорогими и дешевыми моделями для оптимизации затрат и качества.
03
Проблемы с кэшем и наблюдаемостью05:07 ↗
Влияние кэша и важность мониторинга выбора модели для экономии и качества.
04
Интеграция знаний: RAG vs длинный контекст06:09 ↗
Сравнение подходов доставки знаний в агента — через векторные базы или большие контекстные окна.
05
Трейдофы и масштабируемость09:47 ↗
Плюсы и минусы RAG и длинного контекста с точки зрения полноты, стоимости и качества.