разбор · оркестрациятема-фронтир · H 1.49
1.0
из 10
смотреть не обязательно — забрать выжимку и пункты
оценка машинная и частично зависит от длины ролика — спорите, открывайте оригинал
Открытый драйвер NVIDIA на Mac: установка за минуты, скорость ниже
Разбор эксперимента, в котором мощную видеокарту NVIDIA подключили к компьютеру Apple через открытый драйвер, написанный небольшой независимой командой. Программная часть ставится за несколько минут, но упирается в питание и в сырую оптимизацию: по скорости связка пока проигрывает готовым решениям для запуска моделей. Ценность в том, что самая сложная часть — драйвер ядра и работа с памятью — уже написана силами сообщества.
Tiny GPU впервые запустил RTX 5090 на Mac, но скорость пока в 10 раз ниже Llama.cpp. Главное — прорыв в открыт
что из этого моё
К подряду на боты и сайты это отношения не имеет. Стоит вернуться к теме, только если появится задача считать модели на своём железе — тогда это ориентир, чего ждать от внешней видеокарты на компьютере Apple.
Тезисы ролика
применимого к своей работе линза здесь не нашла
▸Поддержка видеокарт NVIDIA была вырезана из системы Apple ещё в 2018 году — с тех пор экосистемы не пересекались.
▸Открытый драйвер работает как переводчик: превращает запросы программ в инструкции, понятные чужому процессору.
▸Установка программной части занимает меньше пяти минут: одна команда в терминале плюс окружение для компилятора.
▸Основная сложность не в программах, а в железе — питание мощной карты вне корпуса решается отдельно.
о чём говорят, по времени
главы доводят до 09:23 · дальше по ролику меток нет
01
Вступление00:02 ↗
Аналогия с двигателем и сравнение с технологическим прорывом.
02
Исторический контекст01:06 ↗
Разрыв между Apple и NVIDIA и появление Tiny Corp.
03
Установка драйвера04:14 ↗
Простая установка драйвера Тайни GPU.
04
Физические ограничения05:47 ↗
Проблемы с подачей питания для мощных видеокарт.
05
Тесты производительности09:23 ↗
Результаты тестов и проблемы с программной оптимизацией.