разбор · данныетема в работе · H 1.23
2.0
из 10
смотреть не обязательно — забрать выжимку и пункты
оценка машинная и частично зависит от длины ролика — спорите, открывайте оригинал
Переобучение LLM на экзаменационных данных и самоисправление с GPT-4.1
⚡️ Reverse Engineering OpenAI's Training Data — Pratyush Maini, Datology
Исследование показывает, что современные LLM сильно переобучаются на конкретных наборах данных, включая экзаменационные вопросы, что влияет на их поведение и память. Также выявлено появление самоисправляющегося поведения моделей начиная с GPT-4.1, связанного с обучением на reasoning data. Это важно для ответственного и эффективного использования данных при предобучении.
Self-reflection в mid-training стала стандартом для frontier-моделей; синтетика через рефразинг эффективнее.
что из этого моё
Можно применять для построения оркестрации моделей с учетом качества и происхождения данных, автоматизации фильтрации и оценки обучающих наборов, а также для настройки агентов с механизмами самокоррекции и мониторинга переобучения.
Тезисы ролика
применимого к своей работе линза здесь не нашла
▸Использовать анализ переобучения моделей на специфичных датасетах для оценки качества и разнообразия обучающих данных.
▸Внедрять контроль и фильтрацию данных, чтобы избежать чрезмерного повторения одних и тех же примеров в обучении.
▸Отслеживать появление и развитие самоисправляющегося поведения моделей для улучшения качества генерации и повышения надежности.
▸Использовать метрики и визуализации для выявления аномалий и артефактов в данных, которые могут влиять на поведение модели.
о чём говорят, по времени
главы доводят до 08:57 · дальше по ролику меток нет
01
Введение и контекст00:01 ↗
Знакомство с гостем и обсуждение важности данных в AI.
02
Тема диссертации и проблемы данных02:07 ↗
Обсуждение ответственного и эффективного использования веб-данных для предобучения.
03
Переобучение на экзаменационных данных03:09 ↗
Обнаружение сильного переобучения моделей на экзаменационных вопросах.
04
Самоисправляющееся поведение моделей06:20 ↗
Наблюдение феномена бесконечных самокорректирующихся ответов.
05
Эволюция и причины поведения моделей08:57 ↗
Связь поведения моделей с датами релизов и обновлений.