разбор · guardrails
7.0
из 10
смотреть по главам — взять две-три нужные минуты
оценка машинная и частично зависит от длины ролика — спорите, открывайте оригинал
Эвалы на реальных диалогах с LLM-судьями гейтят релизы
Evals-Driven Development for a Mental Health AI Coach — Akele Reed & Dave Revere, SonderMind
SonderMind разработал ИИ-коуча для ментального здоровья с отдельными guardrails на вход и выход, которые используют LLM как судью. Ключевой подход — эвалюация на основе реальных клинических случаев: клиницисты аннотируют трассы, превращая их в типизированные тесты, которые гейтят релизы. Они открыли датасеты для сообщества.
Безопасный ИИ-коуч: модульные гардрейлы, клинические evals, открытые датасеты — точность важнее частоты срабат
что из этого моё
Можно применить подход SonderMind к построению системы эвалюации: собирать реальные диалоги, привлекать экспертов для аннотации и превращать их в автоматические тесты, которые гейтят изменения. Это напрямую относится к оркестрации и автоматизации, так как позволяет безопасно итерировать модели.
Что забрать
отметь, что берёшь в работу → или отбрось как не своёмоё →
собрать 20 реальных диалогов из своего конвейера разборов и разметить их по рубрике SonderMind: ожидаемое наблюдение, индекс поворота, заметки
написать скрипт, который превращает размеченные диалоги в типизированные эвалы для гейтинга релизов
отключить встроенные guardrails у frontier-моделей в своих промптах и замерить частоту ложных срабатываний на тестовом наборе
о чём говорят, по времени
главы доводят до 11:00 · дальше по ролику меток нет
01
Введение и контекст00:00 ↗
Спикеры представляют SonderMind и их ИИ-коуча Sonder для ментального здоровья.
02
Архитектура и guardrails02:30 ↗
Описание модульной архитектуры с отдельными входными и выходными guardrails на основе LLM-судей.
03
Примеры срабатываний05:00 ↗
Разбор трех сценариев: активный кризис, прошлая травма и обычный разговор.
04
Learning loop с клиницистами08:00 ↗
Как реальные случаи превращаются в эвалы через аннотации клиницистов.
05
Калибровка и открытые данные11:00 ↗
Философия калибровки и публикация датасетов.