Turbo Puffer — это гибридный поисковый движок, сочетающий полнотекстовый и векторный поиск, ориентированный на хранение и поиск больших объёмов неструктурированных данных с помощью новой архитектуры на NVMe SSD и объектном хранилище. Для масштабируемой AI-оркестрации важно использовать гибридный поиск и архитектуру с отказоустойчивым хранением.
Retrieval After RAG: Hybrid Search, Agents, and Database Design — Simon Eskildsen of Turbopuffer
полный разбор ролика · 4 глав ↓
Введение и контекст
Саймон Эскилдсен рассказывает о своём датско-канадском бэкграунде и опыте работы в Shopify, а также о влиянии датской прагматичности на подход к технологиям.
Обсуждается культурный и профессиональный контекст, из которого вырос Turbo Puffer.
Что такое Turbo Puffer
Turbo Puffer — это поисковая система, сочетающая полнотекстовый и векторный поиск, ориентированная на работу с огромными объёмами неструктурированных данных.
Идея в том, что модель ИИ не может сжать все знания в весах, поэтому нужна внешняя база данных с полнотой и достоверностью.
Условия для создания большой базы данных
Первое — новый рабочий нагрузочный сценарий, в данном случае — интеграция больших данных с AI.
Второе — новая архитектура хранения (NVMe SSD, объектное хранилище), недоступная старым системам.
Третье — способность поддерживать все типы запросов, постоянно расширяя функциональность.
Путь к Turbo Puffer
Саймон делится опытом масштабирования инфраструктуры Shopify, где Elasticsearch был узким местом из-за сложности и ограничений.
После ухода он консультировал стартапы и увидел потребность в новой архитектуре поиска и хранения для AI-приложений.