разбор · безопасностьтема-фронтир · H 1.48
3.0
из 10
смотреть не обязательно — забрать выжимку и пункты
оценка машинная и частично зависит от длины ролика — спорите, открывайте оригинал
Безопасный запуск ИИ-кода: песочница с запретом по умолчанию
How to Safely Run AI-Generated Code: The Sandbox Approach
Видео обсуждает проблему безопасного запуска кода, сгенерированного ИИ, и методы его изоляции. Основное - вернуться к проверенным методам изоляции с использованием Capability based security, где по умолчанию блокируется всё, и доступы выдаются только к необходимым ресурсам.
ИИ-код опасен: нужны песочницы с минимальными привилегиями, комбинируя V8 Isolates и контейнеры, и жёсткий чек
что из этого моё
Запрещено всё, разрешено названное — модель доступа, которую закладывают сразу, если агент выполняет сгенерированный код: не список из десяти тысяч запретов, а короткий перечень разрешённых ресурсов. Отдельно взять жёсткий лимит процессорного времени, чтобы зациклившийся код не стоил как месяц хостинга: у Cloudflare контейнер живёт не дольше десяти минут.
Что забрать
отметь, что берёшь в работу → или отбрось как не своёмоё →
настроить песочницу для запуска сгенерированного кода с запретом всего по умолчанию и выдачей доступов по необходимости
установить жёсткий лимит процессорного времени для контейнеров, например, 10 минут как у Cloudflare
о чём говорят, по времени
главы доводят до 07:51 · дальше по ролику меток нет
01
Вступление00:01 ↗
Аналогия с гениальным разработчиком и проблема безопасного кода.
02
Проблема инженерной гигиены01:04 ↗
Быстрый переход к автономным системам и забывание фундаментальных правил.
03
Архитектурные принципы02:07 ↗
Важность изоляции процессов выполнения кода, сгенерированного нейросетью.
04
Природа угрозы03:09 ↗
Понимание трех фундаментальных сценариев, когда генерация кода становится разрушительной.
05
Исправление архитектуры07:51 ↗
Возвращение к проверенным методам изоляции и Capability based security.