разбор · агентытема-фронтир · H 1.50
2.0
из 10
смотреть не обязательно — забрать выжимку и пункты
оценка машинная и частично зависит от длины ролика — спорите, открывайте оригинал
Защита на уровне действий и память в групповых агентах
Wearing the Agent: From Group Chats to Glasses — Sai Krishna Rallabandi
Доклад о переходе от агентов для одного пользователя к агентам в групповых чатах. Основной фокус на трёх аспектах: безопасность (защита на уровне действий, а не ввода), память (атомарные факты, забвение, KV-кэши) и приватность (разделение памяти, адаптеры, контроль проактивности).
Групповые агенты требуют защиты на действиях, памяти как личности и приватности как социального контракта.…
что из этого моё
Прямой применимости к оркестрации моделей и автоматизации buyanov.io нет, но идеи о защите на уровне действий и управлении памятью в групповых сценариях могут быть адаптированы для проектирования безопасных и эффективных агентных систем.
Что забрать
отметь, что берёшь в работу → или отбрось как не своёмоё →
вынести проверку действий агента в отдельный модуль с детерминированными правилами (regex) и трёхклассовой категоризацией
настроить LoRA-адаптеры для разделения памяти между пользователями в групповом агенте
обучить классификатор для определения уместности проактивных сообщений агента в группе
о чём говорят, по времени
главы доводят до 25:00 · дальше по ролику меток нет
01
Введение: от одиночных к групповым агентам00:00 ↗
Докладчик заявляет о переходе от агентов для одного пользователя к агентам в группах и демонстрирует примеры из реальной системы Judith.
02
Безопасность: защита на уровне действий04:30 ↗
Обсуждается, почему нельзя защищать агентную систему как LLM, и предлагается подход с детерминированными правилами и обученной моделью.
03
Память: хранение и забывание12:00 ↗
Рассматриваются пять аспектов памяти в групповых чатах: что хранить, как извлекать, как забывать, KV-кэши и иерархия.
04
Приватность: новый социальный контракт19:00 ↗
Обсуждается, что общий агент требует нового подхода к приватности, и предлагается использовать LoRA-адаптеры для разделения памяти.
05
Заключение: три ключевых аспекта25:00 ↗
Спикер резюмирует: безопасность, память и маршрутизация информации — главные вызовы для групповых агентов.