Fixing AI Refusals: Unlocking the Potential of Gemma 4 E2B
В видео рассматривается процесс удаления встроенной цензуры из языковых моделей AI, сохраняя при этом их интеллектуальные способности. Исследователи используют математические методы, такие как сохраняющая норму бипроекция, для удаления направления отказа без ущерба для общей эффективности модели. Применение таких модифицированных моделей может быть полезным для оператора входа в AI, особенно в контексте оркестрации и автоматизации.
Что забрать из ролика в дело
Введение
Современные языковые модели часто демонстрируют цифровое морализаторство, блокируя ответы на敏感 вопросы, что противоречит ожиданиям объективности от технологий.
Идея выравнивания
Идея выравнивания - изначально хорошая, но в реальности приводит к гиперопекающей няньке, которая паникует по любому поводу.
Механизм отказа
Поведение модели распределено по всей нейросети, и отказ не лежит в отдельной строке кода, а в матрицах чисел-весов.
Определение refusal direction
Исследователи сравнивают активность модели на провокационных и нейтральных запросах, чтобы найти направление отказа.
Сохраняющая норма бипроекция
Математическая техника сохраняющая норма бипроекция позволяет удалить отказ, сохраняя интеллектуальные способности модели.
Оператору входа в AI можно использовать методы облитерации для создания более эффективных и беспристрастных моделей, что улучшит оркестрацию и автоматизацию процессов без ущерба для интеллектуальных способностей AI.