Самоэволюция ИИ: оптимизация агентной обвязки и локальные LLM
Исследование показывает, что для самоэволюции ИИ важна не масштабность модели, а оптимизация обвязки — среды вокруг модели с помощью автоматического обновления инструкций. Малые локальные модели отлично пишут точные правила, а средние — эффективно их применяют, что меняет экономику ИИ.
Что забрать из ролика в дело
Введение в самоэволюцию ИИ
В видео рассматривается метафора с суперкомпьютером, который, вместо улучшения аппаратных характеристик, получает качественные стикеры с инструкциями. Это приводит к тому, что он начинает выдавать результаты, сопоставимые с более мощными системами, что ставит под сомнение традиционные методы масштабирования интеллекта.
Исследователи из Пенсильванского университета и других институтов разработали инфраструктуру A Evolve, которая позволяет улучшать агентный ИИ без вмешательства человека, что кардинально меняет подход к созданию и обучению моделей.
Концепция обвязки
Обвязка, или harness, представляет собой изменяемую среду вокруг нейросети, включающую системные промпты и текстовые файлы памяти. Это позволяет не трогать саму модель, а лишь изменять условия её работы, что значительно упрощает процесс оптимизации.
С помощью фреймворка A Evolve можно автоматически улучшать обвязку, что делает процесс более эффективным и быстрым, требуя всего три строчки кода для реализации изменений.
Алгоритм Guided Sint
Алгоритм Guided Sint анализирует ошибки, возникающие при выполнении задач, и генерирует инструкции для их исправления. Например, если агент не импортировал нужную библиотеку, алгоритм запишет правило в текстовый файл памяти, что поможет избежать подобных ошибок в будущем.
Встроенный контроль качества, такой как Git rollback, позволяет системе автоматически откатываться к предыдущим версиям, если новые инструкции приводят к ухудшению результатов, что обеспечивает непрерывную эволюцию.
Исследование моделей
Исследователи провели тестирование, сравнивая небольшую модель с 9 млрд параметров и флагманскую модель с 175 млрд параметров. Результаты показали, что маленькая модель может генерировать инструкции так же эффективно, как и большая, что ставит под сомнение традиционные представления о важности размера модели.
Однако, когда дело доходит до выполнения задач по созданным инструкциям, маленькие модели сталкиваются с проблемами, связанными с забывчивостью и неспособностью следовать инструкциям, что приводит к низкой эффективности.
Заключение и выводы
Несмотря на успехи малых моделей в создании инструкций, их способность к выполнению задач остается ограниченной из-за недостатка ресурсов и механизмов внимания. Это открывает новые вопросы о том, как оптимизировать их работу и использовать их сильные стороны в рамках более сложных систем.
В итоге, подход к самооптимизации через разделение процессов может привести к значительным изменениям в индустрии ИИ, позволяя использовать более доступные и менее ресурсоемкие модели для решения сложных задач.
Полезно для AI-проектов с агентами и автоматизацией: позволяет улучшать работу моделей через самооптимизацию обвязки, снижая затраты на масштабные модели и ускоряя разработку.