Meter исследует способности AI-моделей и их реальные действия, связывая это с угрозами для общества. Основной вывод — текущие модели пока не способны на катастрофические риски, но стоит внимательно отслеживать их развитие и пропенсити к опасным действиям.
Measuring Exponential Trends Rising (in AI) — Joel Becker, METR
наведи и нажми на цифру — раскроется глава
полный разбор ролика · 5 глав ↓
Введение в Meter
Meter — это сочетание Model Evaluation (оценка возможностей моделей) и Threat Research (исследование угроз). Цель — понять, что модели могут делать сейчас и в будущем, а также каковы их реальные действия и риски для общества.
Фокус на способностях и угрозах
Основная работа Meter — это измерение способностей моделей (capabilities), а исследование угроз (threat research) развивается как следующий этап. На данный момент модели вроде GPT-5 не считаются достаточно опасными для катастрофических рисков, но ситуация может измениться.
Обновление threat-моделей
Некоторые угрозы, например автономное самовоспроизведение, стали менее приоритетными. Сейчас внимание уделяется рискам ускорения разработки и возможности взрывного роста способностей внутри лабораторий, что может дестабилизировать ситуацию.
График временного горизонта моделей
График показывает, что способности моделей растут по экспоненте и очень регулярно, измеряемые через время выполнения человеком задач, которые модель решает с 50% успехом. Это подтверждает предсказуемость прогресса AI.
Выбор и ограничения задач
Задачи выбираются исходя из экономической ценности и релевантности автономности и угрозам. Задачи должны быть автоматически проверяемыми, не слишком открытыми или требующими сложных контекстов, что ограничивает полноту оценки реальных сценариев.