разбор · ragтема-фронтир · H 1.38
4.0
из 10
смотреть не обязательно — забрать выжимку и пункты
оценка машинная и частично зависит от длины ролика — спорите, открывайте оригинал
RAG как хак: объяснимость и контроль доступа важнее размера контекста
RAG is a hack - with Jerry Liu of LlamaIndex
Джерри Лю из LlamaIndex объясняет, почему RAG — это «хак», который работает, и почему он останется ключевым для работы с большими данными, несмотря на рост контекстных окон. Он делится опытом создания LlamaIndex, рассуждает о балансе между RAG и fine-tuning, и подчёркивает важность объяснимости и контроля доступа.
RAG — практичный хак для работы с данными, но будущее за гибридом с fine-tuning.
что из этого моё
Видео полезно для понимания философии RAG и выбора между RAG и fine-tuning. Можно применить: при проектировании оркестрации моделей учитывать, что RAG — это быстрый и объяснимый способ добавить знания, а fine-tuning — для долгосрочной специализации. Также стоит внедрить гибридный поиск и оценку качества ретрива.
Что забрать
отметь, что берёшь в работу → или отбрось как не своёмоё →
вынести в конвейер разборов шаг оценки качества ретрива на тестовом наборе запросов
настроить гибридный поиск в своей базе знаний, объединив векторный и ключевой поиск
добавить в интерфейс разборов отображение источников ответа для объяснимости
о чём говорят, по времени
главы доводят до 35:00 · дальше по ролику меток нет
01
Интро и бэкграунд00:00 ↗
Джерри рассказывает о своём пути от Quora до LlamaIndex.
02
История LlamaIndex05:00 ↗
Как проект начинался с эксперимента по загрузке данных в GPT-3.
03
RAG vs Fine-tuning15:00 ↗
Джерри объясняет, почему RAG — это хак, и когда его использовать.
04
Контекст и ограничения25:00 ↗
Обсуждение минимального и максимального контекста для RAG.
05
Будущее RAG и fine-tuning35:00 ↗
Джерри рассуждает о том, как fine-tuning может дополнить RAG.