← Материалы разборы Yersham
разбор · кластеризация
1.0
из 10
смотреть не обязательно — забрать выжимку и пункты
оценка машинная и частично зависит от длины ролика — спорите, открывайте оригинал

Кластер из MacBook Pro: распределённый инференс на практике

Разбор эксперимента, где три ноутбука MacBook Pro на чипах M5 Max связали кабелями в один вычислительный кластер и запустили на нём модели, которые раньше требовали серверной стойки. Автор идёт от малого — сначала проверяет связь на небольшой модели, потом упирается в память: суммарной ёмкости формально хватает, а на деле нет из-за накладных расходов. Главный аргумент за такую сборку — модульность: памяти мало, добавил ещё один узел, тогда как в моноблоке память допаять нельзя и машину приходится менять целиком.

Кластер из 3 MacBook Pro M5 Max запускает LLM до 400B параметров, обходя ограничения памяти через конвейерный

что из этого моё

Запускать большие модели на своём железе он не собирается, так что применять здесь нечего. Единственный момент, который может пригодиться в разговоре с заказчиком: обещание «поставим у себя, чтобы не платить за облако» упирается в память и стоимость машин, а не в желание.

Тезисы ролика
применимого к своей работе линза здесь не нашла
Три ноутбука объединяются в кластер обычными кабелями, распределение слоёв модели между узлами берёт на себя программная часть.
Проверку начинают на небольшой модели — сначала подтверждается сама связь и маршрутизация, потом растёт нагрузка.
Арифметика памяти обманчива: модель на 215 гигабайт не влезает в два узла по 128 гигабайт, потому что учтён не весь расход.
Модульность против моноблока: в настольной машине память не нарастишь, а в кластер добавляется ещё один узел.
о чём говорят, по времени
главы доводят до 05:16 · дальше по ролику меток нет
01
Введение00:01
Описание эксперимента с использованием MacBook Pro M5 Max.
02
Идея эксперимента00:33
Обсуждение идеи использования портативных устройств для вычислений.
03
Тестирование модели Q34B01:05
Использование небольшой модели для проверки инфраструктуры.
04
Протокол RDMA и MLX03:10
Проверка протокола RDMA и фреймворка MLX.
05
Результаты тестов05:16
Анализ результатов тестирования с использованием модели Q34B.
дальше в дело
Собрать это в маршрут
все маршруты →
не хочешь разбираться сам
Сделаю это под задачу
форматы и цены →
похожие по смыслу · из облака
ещё разборы