Инженеры строят каркасы вокруг ИИ, ограничивая его свободу
Индустриальный AI переживает фундаментальный кризис доверия к базовой логике генеративных моделей. Инженеры отказываются от создания всемогущего ядра ИИ, вместо этого строят сложную инфраструктуру вокруг ИИ, заимствованную из финансовых баз данных, для ограничения естественного поведения моделей генерировать правдоподобные последовательности токенов, включая ложные аксиомы.
ИИ-индустрия строит внешние каркасы, ограничивая вероятностные модели, чтобы получить безопасность, но теряет
Считать деньги и даты кодом, а не моделью: 96% работающих с генеративными сетями сталкивались с тем, что модель на ходу выдумывает несуществующее правило. Отсюда конструкция — всё, что должно быть точным, выносится из модели наружу, в код и в базу, а модели остаётся формулировка ответа. В боте для малого бизнеса это про расчёт стоимости и сроков: их считает не модель.