разбор · mig

из 10

смотреть не обязательно — забрать выжимку и пункты

оценка машинная и частично зависит от длины ролика — спорите, открывайте оригинал

NVIDIA MIG: разделение GPU на инстансы в Proxmox

NVIDIA MIG - How to partition GPUs in Proxmox?

Видео объясняет, как с помощью NVIDIA MIG разделить одну физическую видеокарту на несколько независимых инстансов и пробросить их в LXC-контейнеры Proxmox. Показана практическая настройка, включая включение MIG, выбор профилей, создание контейнеров и проброс устройств. Главный вывод: MIG позволяет эффективно утилизировать GPU под разные задачи одновременно.

что из этого моё

Видео напрямую применимо: показан конкретный способ нарезки GPU под разные AI-задачи (LLM, embedding, Whisper, обучение) в LXC-контейнерах Proxmox. Это позволяет эффективно использовать дорогие GPU и изолировать сервисы, что полезно для оркестрации AI-моделей и автоматизации.

Тезисы ролика

применимого к своей работе линза здесь не нашла

▸Включайте MIG на GPU командой 'nvidia-smi -mig 1' (для Ampere может потребоваться ресет GPU, для Hopper нет).

▸Используйте 'nvidia-smi lgip' для просмотра доступных профилей и 'nvidia-smi lgipp' для вариантов размещения инстансов.

▸Пробрасывайте GPU-инстансы в LXC через device passthrough, добавляя шесть путей с соответствующими ID (например, /dev/nvidia-caps/nvidia-cap1 и т.д.).

▸Для каждого инстанса создавайте отдельный LXC-контейнер, чтобы изолировать сервисы и не мешать соседям.

о чём говорят, по времени

главы доводят до 06:44 · дальше по ролику меток нет

Введение в MIG00:00 ↗

Объяснение, что такое MIG и его отличие от vGPU.

Включение MIG01:34 ↗

Практические шаги по включению MIG на GPU в Proxmox.

Профили MIG02:36 ↗

Обзор доступных профилей и их комбинаций на H100 80GB.

Создание LXC-контейнеров03:39 ↗

Настройка LXC-контейнеров для каждого инстанса GPU.

Проброс GPU и тесты06:44 ↗