← Материалы разборы Yersham
разбор · бенчмарки
2.0
из 10
смотреть не обязательно — забрать выжимку и пункты
оценка машинная и частично зависит от длины ролика — спорите, открывайте оригинал

Бенчмарки GPT-6 Astra: что измеряют и почему проценты не гарантируют качество

Обзор бенчмарков GPT-6 Astra: что они реально измеряют, как выглядят задачи, и почему высокие проценты не гарантируют качество в реальных сценариях. Главный вывод: даже 2% галлюцинаций — много для ответственных задач, нужна проверка.

Обзор бенчмарков GPT-6 Astra: что они реально измеряют, как выглядят задачи, и почему высокие проценты не гарантируют качество в реальных сценариях. Главный вывод: даже 2% галлюцинаций — много для ответственных задач, нужна проверка.

что из этого моё

Для оператора входа в AI важно: бенчмарки помогают выбирать модели под конкретные задачи оркестрации и автоматизации. Например, Automation Bench и OS World показывают, насколько модель способна выполнять реальные офисные действия, что можно использовать для настройки агентов. Также стоит учитывать API cost и output токены при выборе модели для массовых сценариев.

Тезисы ролика
применимого к своей работе линза здесь не нашла
Изучайте бенчмарки в открытом доступе (Terminal Bench, ARC-AGI-3, FrontierMath и др.), чтобы понимать, что именно тестирует модель и насколько это релевантно вашим задачам.
При выборе модели для автоматизации обращайте внимание не только на проценты, но и на API cost и output токены — это влияет на экономику.
Для агентных задач критичны бенчмарки типа Automation Bench (Zapier) и OS World — они моделируют реальные офисные сценарии.
Помните о риске переобучения на публичных бенчмарках — высокие баллы не гарантируют качество на новых задачах.
о чём говорят, по времени
главы доводят до 09:22 · дальше по ролику меток нет
01
Введение и цель00:00
Обсуждение выхода GPT-6 Astra и плана разобрать бенчмарки.
02
Terminal Bench Science01:33
Разбор задач из Terminal Bench Science: инженерия, наука, контроль.
03
ARC-AGI-3 и FrontierMath03:38
Игровые задачи ARC-AGI-3 и сложные математические задачи FrontierMath.
04
Terminal Bench 4.0 и Automation Bench07:18
Задачи в терминале и симуляция офисной работы от Zapier.
05
Exploit Gym и Agent Last Exam09:22
Бенчмарки по безопасности и реальные задачи из индустрий.
дальше в дело
Собрать это в маршрут
все маршруты →
не хочешь разбираться сам
Сделаю это под задачу
форматы и цены →
ещё разборы