разбор · оптика
1.0
из 10
смотреть не обязательно — забрать выжимку и пункты
оценка машинная и частично зависит от длины ролика — спорите, открывайте оригинал
Масштабирование AI-серверов: разделение сетей и CPO
Why next-gen AI scale-up needs CPO
Для масштабирования AI-серверов важно разделять сети scale-up (внутри стойки, на медных линиях) и scale-out (между стойками, на оптике). Co-Packaged Optics (CPO) устраняет DSP, снижая задержки и энергопотребление, за счёт размещения оптики прямо на чипе или очень близко к нему.
Copper limits drive CPO adoption: scale-out first, scale-up next; NVL576/1152 lead the way.
что из этого моё
Прямой связи с текущими задачами нет. Условие, при котором пригодится, — заказ у клиента с собственной серверной стойкой; подряды на боты и одностраничники до этого уровня не доходят.
Тезисы ролика
применимого к своей работе линза здесь не нашла
▸Использовать медные соединения для scale-up сетей внутри стойки до 2 метров.
▸Для scale-out сетей применять оптику, чтобы покрыть большие расстояния между стойками.
▸Внедрять Co-Packaged Optics, чтобы убрать DSP и снизить энергозатраты и задержки.
▸Рассмотреть промежуточные решения: LPO (без DSP, но с ограниченной дальностью) и NPO (ближе к ASIC, снижает DSP, уже используется).
о чём говорят, по времени
главы доводят до 08:20 · дальше по ролику меток нет
01
Роль меди в AI-серверах00:00 ↗
Объяснение ограничений меди в современных AI-серверах.
02
Типы сетей в AI-центрах01:43 ↗
Разделение сетей на scale-up и scale-out с разными требованиями.
03
Плагины и DSP в оптических трансиверах04:29 ↗
Устройство и энергопотребление стандартных оптических трансиверов.
04
Зачем нужен Co-Packaged Optics06:41 ↗
Идея убрать DSP, разместив оптику ближе к источнику сигнала.
05
Эволюция оптических решений08:20 ↗
От LPO и OBO к NPO и CPO.