разбор · оркестрациятема-фронтир · H 1.49
4.0
из 10
смотреть не обязательно — забрать выжимку и пункты
оценка машинная и частично зависит от длины ролика — спорите, открывайте оригинал
OpenRAG: порог 1 млн токенов и оффлайн-разбор PDF
OpenRAG: An open agent stack for RAG systems
OpenRAG - это открытый стек для систем с дополненной выборкой (RAG), который решает проблемы с большими окнами контекста и вычислительными ресурсами. Он упрощает обработку корпоративных данных, обеспечивая оркестрацию моделей и автоматизацию.
OpenRAG — открытый стек для RAG: Docling для структуры, OpenSearch для масштабирования, LangFlow для агентов.
что из этого моё
RAG предлагать с оглядкой на порог из доклада: если данных у клиента меньше миллиона токенов, он скорее всего не нужен — дешевле подавать всё в контекст разом, а стек с Docling и OpenSearch предлагать только при действительно корпоративных объёмах. Для разбора клиентских PDF годится Docling: он работает полностью оффлайн, что закрывает вопрос «куда уйдут наши договоры».
Что забрать
отметь, что берёшь в работу → или отбрось как не своёмоё →
поднять Docling локально для оффлайн-разбора PDF
замерить порог в 1 млн токенов на своих данных, сравнив RAG и подачу всего в контекст
настроить перекрестный энкодер для ранжирования в поиске
о чём говорят, по времени
главы доводят до 07:48 · дальше по ролику меток нет
01
Вступление00:01 ↗
Объяснение проблемы больших окон контекста.
02
Проблемы РК01:04 ↗
Дискуссия о смерти технологии РК и ее решении.
03
Технические проблемы РК02:38 ↗
Обсуждение технических трудностей, связанных с реализацией РК.
04
Open RCK05:14 ↗
Введение компонента Open RCK для решения проблем с PDF.
05
Хранение и поиск данных07:48 ↗
Обсуждение хранения и поиска данных с использованием Open Search.