Code World Model: предсказание исполнения кода через трассировки
Jacob Kahn представляет Code World Model (CWM) от FAIR Meta — модель, которая предсказывает исполнение кода, а не только синтаксис. CWM обучается на трассировках выполнения, что улучшает рассуждения и позволяет создавать нейроотладчик. Модель использует bash и асинхронное RL для эффективного пост-обучения.
CWM предсказывает исполнение кода, а не просто генерирует его, что даёт нейроотладку и симуляцию агентов.…
CWM предлагает подход к моделированию исполнения кода, который можно применить для улучшения агентов, работающих с кодом: использовать трассировки выполнения как дополнительный сигнал при обучении, строить нейроотладчики для интерактивной разработки, а также использовать асинхронное RL для эффективного обучения. Это напрямую относится к оркестрации моделей и автоматизации задач, связанных с кодом.