Открытый исходный код и открытые веса моделей — ключ к демократизации ИИ и конкуренции между множеством игроков. Масштабирование и RL (обучение с подкреплением) — драйверы прогресса, а оператору важно строить гибкую оркестрацию с возможностью интеграции разных моделей и источников.
The AI Frontier: from open weights to open research — Eiso Kant, Poolside AI
полный разбор ролика · 5 глав ↓
Проблемы MCP и инструментов
Модели всё чаще взаимодействуют напрямую с данными и виртуальными машинами, используя код для выполнения сложных задач, а не через промежуточные инструменты.
Нужно давать моделям доступ к средам с установленными бинарниками и кодовой базой для гибкой работы.
Путь к открытым моделям
Автор начал с RNN и LSTM, затем трансформеров, пытаясь построить модели для кода, но без масштабирования не получилось.
Опыт показал, что масштабирование и RL — ключевые драйверы успеха, хотя тогда это было неочевидно.
Возвращение к открытости
В начале 2024 года команда пересмотрела стратегию и решила открывать свои исследования и веса моделей.
Открытость рассматривается как способ создать конкуренцию и избежать монополии нескольких компаний.
Дилеммы открытого исходного кода
Остаются вопросы бизнес-модели и рисков неправильного использования открытых моделей.
Тем не менее, предпочтение отдается миру с большим числом компаний и моделей, а не нескольким монополиям.
Экосистема и конкуренция
Наличие множества игроков и моделей стимулирует прогресс и позволяет выбирать наиболее подходящие решения.
Разные модели имеют разные предвзятости и поведение, что важно учитывать при интеграции.