Термин AGI крайне размытый и спекулятивный, что мешает строить надёжные системы. Важно фокусироваться на узком ИИ (ANI) и машинном обучении, понимая их ограничения и особенности, особенно галлюцинации генеративных моделей. Чёткая терминология и реалистичный подход критичны для инженерии.
AGI: почему индустрия не может договориться об определении?
наведи и нажми на цифру — раскроется глава
полный разбор ролика · 5 глав ↓
Введение и проблема терминов
Термин AGI сегодня используется крайне широко и неоднозначно, что создаёт путаницу и сложности для понимания и разработки систем.
Маркетинг раздувает ожидания, инженеры же вынуждены строить решения на шатком фундаменте неопределённости.
Узкий ИИ и технический стек
Узкий ИИ решает конкретные задачи и базируется на машинном обучении, где системы учатся на данных без жёсткого программирования.
Глубокое обучение с нейронными сетями лежит в основе LLM, которые лишь предсказывают паттерны, создавая иллюзию понимания.
Генеративный ИИ и галлюцинации
Генеративные модели работают в рамках обучения и не обладают пониманием, что приводит к галлюцинациям — выдуманным ответам с уверенностью.
Это фундаментальная особенность архитектуры, а не баг, требующая контроля на уровне системы.
Спорное определение AGI
AGI — это гипотетическая система с интеллектом человеческого уровня, которой пока не существует и спорно, достижима ли она вообще.
Термин используется маркетологами для подвижных целей, что мешает чёткой инженерной работе.
Практика для инженеров
Инженеры должны фокусироваться на ANI и машинном обучении, а не на спекуляциях вокруг AGI и ASI.
Чёткое разделение маркетинговых обещаний и реальных возможностей помогает строить надёжные системы с правильной архитектурой и контролем качества.