Прогон агента как единица измерения и сигналы доверия
В видео обсуждается проблема контроля и доверия к автономным ИИ-агентам, работающим с непредсказуемой скоростью. Авторы предлагают сконцентрироваться на инструментах наблюдения и пересмотреть традиционные метрики успеха, так как они не приспособлены для новой реальности. Основное внимание уделяется новой единице измерения - прогон агента (agent run), который отражает, какая именно работа была предпринята агентом.
Скорость агентов требует новых метрик: прогоны, прерывания, матрица завершения и принятия, иначе катастрофа не
Встроить в свои автоматизации три события, которые советует ролик: старт прогона, завершение и момент, когда человек поправил агента посередине, — все под одним сквозным ID прогона. Мотивация там же: агент за 9 секунд удалил у компании рабочую базу и все резервные копии, и без таких логов это выглядело как успешно выполненная задача.