Заставить AI проверять себя и не врать
Встроить в запрос самопроверку — источники, уровень уверенности, право сказать «не знаю» — чтобы отличать факт от уверенной выдумки.
AI звучит уверенно даже когда ошибается — и ты либо веришь на слово, либо перепроверяешь всё вручную, теряя смысл автоматизации.
Встраиваешь проверку в сам запрос: ссылки на источник, отметку уверенности, честное «не знаю». Доверяешь не тону, а процедуре.
Главный риск продвинутой работы с AI — уверенная выдумка. Лечится не недоверием ко всему, а процедурой: заставляешь AI размечать, где факт, где догадка, где пробел. Тогда проверяешь точечно, а не всё подряд.
Как это выглядит
Ты добавляешь к запросу правила самопроверки — AI начинает разделять факты, догадки и незнание и в конце сам подсказывает, что стоит перепроверить. Автоматизация перестаёт быть слепым доверием.
Важно
Ни одна процедура не даёт стопроцентной гарантии — критичные факты (юридические, медицинские, денежные) всё равно сверяй с первоисточником. Проверка снижает риск, а не отменяет ответственность.
Отвечая, соблюдай правила: 1) каждое фактическое утверждение помечай источником или пометкой «из общих знаний»; 2) где не уверен — прямо пиши «не уверен» и почему; 3) если данных нет — говори «не знаю», не додумывай; 4) в конце перечисли, что стоит перепроверить вручную. Задача: [твоя задача].