Агенты AI должны иметь ограниченный доступ: максимум две из трёх возможностей — файлы, интернет, исполнение кода, чтобы избежать уязвимостей. Важно упрощать доступ к GPU и делать запуск приложений на них максимально простым и безопасным. Nvidia и Brev показывают, как через UX и изоляцию повысить удобство и безопасность.
Agent Inference at the "Speed of Light" — How NVIDIA moves like a $4.3 Trillion Startup
полный разбор ролика · 5 глав ↓
Безопасность агентов
Агенты могут делать три вещи: доступ к файлам, интернет, исполнение кода. Рекомендуется разрешать максимум две функции одновременно, чтобы избежать уязвимостей, например, при одновременном доступе к файлам и интернету возможна инъекция вредоносного кода.
Нужно внедрять контроль и защиту на уровне доступа агентов, чтобы балансировать между функциональностью и безопасностью.
Команда и контекст
Ведущие — инженеры и архитекторы из Nvidia и Brev, которые занимаются разработкой инструментов для упрощения доступа к GPU и развитию открытых агентских решений.
Обсуждается атмосфера и подготовка к конференции Nvidia GTC, что подчеркивает важность событий для продвижения продуктов.
Маркетинг и брендирование
Использование ярких и запоминающихся элементов (например, серфборды, пальмы) на стенде помогает привлечь внимание и создать позитивный имидж.
Физические сувениры, например, карты с изображением GPU, усиливают запоминаемость бренда и создают эмоциональную связь с аудиторией.
Упрощение доступа к GPU
Пользовательский интерфейс с крупными анимированными изображениями GPU упрощает выбор нужного типа чипа вместо сложных выпадающих списков с кодами.
Это снижает порог входа для разработчиков и ускоряет процесс запуска задач на GPU.
Опыт приобретения Nvidia
Приобретение Brev компанией Nvidia позволило получить больше ресурсов для развития продукта и улучшения UX для разработчиков.
Внутренние рекомендации по безопасности — запуск потенциально опасных приложений в изолированных VM (Brev) вне корпоративной сети для защиты инфраструктуры.