Инклин от Thinking Machines - это крупнейший западный открытый релиз мультимодальной нейросети с триллионом параметров, который изменяет стандарты доступа к искусственному интеллекту. Архитектура модели построена на принципе 'смесь экспертов',允许高效的 знание обработки и уменьшение вычислительных требований. Инклин также способен обрабатывать различные типы данных, предлагая гибкость в решении задач.
Inkling: Новый этап открытых мультимодальных моделей от Thinking Machine
полный разбор ролика · 5 глав ↓
Введение
До недавнего времени передовая индустрия искусственного интеллекта была закрыта, как мишленовский ресторан, где не показывают рецепты.
Открытие Инклина
Инклин - крупнейший западный релиз открытой модели с триллионом параметров, что позволит разработчикам строить системы на этом фундамене.
Архитектура Инклина
Инклин спроектирован и обучен с нуля, используя вычислительные мощности Nvidia, и обрабатывает 45 триллионов мультимодальных токенов.
Смесь Экспертов
В Инклин знания распределены между 256 специализированными экспертами, из которых активируются только шесть для каждого токена.
Относительное Внимание
Инклин использует относительное внимание со скользящим окном,允许 более непрерывное восприятие информации, и ском для эффективной агрегации данных.