The Godfather of AI on the Soul, Consciousness, and Digital Immortality
ИИ меняет наше понимание жизни, сознания и памяти, размывая традиционные понятия индивидуальности и осознанности. Главные риски связаны с неправильным использованием ИИ людьми — автономным оружием, кибератаками и фейковыми видео, а не с «злым» ИИ.
полный разбор ролика · 4 глав ↓
Введение и контекст
Вторая часть интервью с Джефри Хинтоном раскрывает вопросы сознания, самосохранения и будущего ИИ.
Обсуждается, как ИИ меняет традиционные представления о жизни и интеллекте.
Понятие жизни и сознания
Живые существа и ИИ имеют разные формы жизни, ИИ — цифровые и могут существовать в множественных копиях.
Сознание разбирается через три понятия: сознание, чувствительность и субъективный опыт, с разной степенью понимания.
Сравнение ИИ и человеческих когнитивных способностей
Нет когнитивных задач, которые человек может делать, а ИИ не сможет со временем.
Главное преимущество человека — способность признать незнание, но ИИ можно обучить этому.
Память человека — реконструкция, а не точное хранение, что сближает её с процессами ИИ.
Риски использования ИИ
Краткосрочные риски — неправильное применение людьми: автономное оружие, кибератаки, фейки.
Долгосрочные риски — возможность захвата контроля ИИ, но это менее актуально сейчас.
Примеры: автономное оружие снижает потери своей стороны, но увеличивает войны; кибератаки с помощью дообученных моделей; фейковые видео для манипуляций.