Verified AI — это не про борьбу с ошибками, а про масштабирование и компаундирование интеллекта через формальную верификацию. Использование формальных языков и proof assistants позволяет создавать надёжные, проверяемые доказательства и расширять возможности AI в математике и других областях.
Scaling Past Informal AI - Carina Hong, Axiom Math
полный разбор ролика · 5 глав ↓
Введение в Verified AI
Verified AI — это открытая коллаборация человека и AI, направленная на масштабирование интеллекта, а не только устранение галлюцинаций.
Формальная верификация помогает компаундировать интеллектуальные достижения, как в математике, усиливая и расширяя возможности.
История и финансирование Axiom Math
Axiom Math — стартап с фокусом на формальную верификацию в математике, недавно привлёк $200 млн на развитие.
Компания рассматривает математику как основу для более широких применений verified AI.
Перспективы и трансфер знаний
Фокус на формальных данных и математике позволяет создавать модели с горизонтальным переносом знаний в разные области.
Verified AI рассматривается как фундамент для надежного и проверяемого рассуждения в AI.
Преимущества формальной верификации
Формальная верификация — не просто налог или проверка, а инструмент для достижения 100% надёжности в критичных системах.
Исторические примеры: метро Парижа, космические программы ESA, авиастроение и AWS.
Verified AI как масштабирование гениальности
Пример Рамануджана показывает, как формальные доказательства превращают интуиции в проверенные теоремы, усиливая интеллект.
Proof assistants снимают рутинные проверки, ускоряя прогресс и повышая точность.