The Scaffolding Paradox: Framework Engineering and Externalizing Thinking
Индустриальный AI переживает фундаментальный кризис доверия к базовой логике генеративных моделей. Инженеры отказываются от созданияオールマイティ ядра ИИ, вместо этого строят сложную инфраструктуру вокруг ИИ, заимствованную из финансовых баз данных, для ограничения естественного поведения моделей генерировать правдоподобные последовательности токенов, включая ложные аксиомы.
Что забрать из ролика в дело
Концепция ИИ
Индустриальные модели ИИ часто генерируют ложные аксиомы, что вызывает кризис доверия.
Инженерия каркасов
Инженеры строят сложную инфраструктуру вокруг ИИ, заимствованную из финансовых баз данных.
Пример модели Minim Max M27
Модель Minim Max M27 выдает неверный результат, выдумывая условие, которое не существует.
Оптимизация трансформеров
Архитектура трансформеров оптимизирована для генерации правдоподобных последовательностей токенов, не для поиска математической истины.
Когнитивная экстернализация
Извлечение когнитивных функций, с которыми ИИ не справляется на 100%, во внешние среды.
Оператору входа в AI buyanov.io будет полезно применить концепцию внешних каркасов для ограничения неправдоподобного поведения ИИ и использования голономных связей и множителей лагранжа для обеспечения строгой генерации ответов в заданном формате. Это поможет в оркестрации моделей, автоматизации и обеспечении качества выводов ИИ.