разбор · безопасностьтема-фронтир · H 1.48
4.0
из 10
смотреть не обязательно — забрать выжимку и пункты
оценка машинная и частично зависит от длины ролика — спорите, открывайте оригинал
Fine-tuning ModernBERT защищает от промпт-инъекций за 35 мс
$1 AI Guardrails: The Unreasonable Effectiveness of Finetuned ModernBERTs – Diego Carpentero
Видео разбирает атаки на LLM (промпт-инъекции, RAG, MCP, агенты) и предлагает защиту: fine-tuning ModernBERT для классификации промптов. Результат: 85% точности за 35 мс, self-hosted, дешево. Главный вывод: нужен отдельный слой безопасности, а не только alignment.
Fine-tuning ModernBERT на InjectGuard даёт дешёвую self-hosted защиту от prompt injection, RAG-атак и агентных
что из этого моё
Можно внедрить как слой безопасности в пайплайн оркестрации: классифицировать промпты до отправки в LLM, фильтровать ответы, проверять контекст из RAG и MCP. Self-hosted решение снижает задержки и сохраняет приватность данных.
Что забрать
отметь, что берёшь в работу → или отбрось как не своёмоё →
поднять ModernBERT base и классифицировать промпты до отправки в LLM
настроить mean pooling вместо CLS pooling для длинных последовательностей
включить flash attention и bfloat16 для экономии памяти при батче 64
о чём говорят, по времени
главы доводят до 45:00 · дальше по ролику меток нет
01
Векторы атак00:00 ↗
Обзор основных типов атак на LLM: прямые и косвенные инъекции, атаки на внутренности, RAG, MCP, агенты.
02
Zero Trust для LLM10:00 ↗
Почему нельзя полагаться только на alignment и человеческие проверки, нужен отдельный слой защиты.
03
Архитектура ModernBERT20:00 ↗
Ключевые улучшения: чередующееся внимание, упаковка последовательностей, глубокие и узкие слои, роторные позиционные кодировки, flash attention.
04
Fine-tuning и инференс35:00 ↗
Практические шаги: подготовка данных, токенизация, обучение, оптимизация памяти, результаты.
05
Демонстрация и выводы45:00 ↗
Тестирование модели на реальных атаках и заключение о важности безопасности.