Замерить размер и скорость модели или контекста на своём железе

«росток» · 2 карт. · 2 голос.(-а/-ов) корпуса · 9 дн. между первым и последним

2 карточек корпуса (2 голос.(-а/-ов) с учётом повторов внутри карточки) независимо друг от друга подошли к одному и тому же действию, за 9 дн. (2026-06-08 — 2026-06-17).

Как формулировали

• замерить размер и скорость квантованной модели на своём устройстве (2026-06-08)
• замерить размер контекста и скорость на своём железе при автономном прогоне (2026-06-17)

Источники

• Локальные AI-модели на iPhone через MLX Swift · 2026-06-08 · мимо
• Локальные агенты на MLX: автономный цикл и цена контекста · 2026-06-17 · забрать

Соседние темы

• Замерить скорость генерации своей модели в токенах в секунду — 3 общих тега(ов)
• Выносить настраиваемый параметр или правило в конфиг конвейера, а не хардкодить — 2 общих тега(ов)
• Подключать сервисы и модели через MCP-протокол вместо отдельных API — 2 общих тега(ов)
• Включить режим агента с подтверждением действий для многошаговых задач — 2 общих тега(ов)
• Запускать агентов в изолированной песочнице или с изолированным контекстом — 2 общих тега(ов)