💬 Заметные цитаты
отсутствие права на ошибку
«Если в первый раз, когда мы построим плохо выровненный сверхразум, он убьет нас всех, то мы не сможем извлечь урок из этой ошибки.»
человек как ресурс атомов
«ИИ ставит Вселенную в определенное состояние. В этом состоянии просто не оказывается людей, потому что они состоят из атомов, которые можно использовать для чего-то другого.»
сбой целей при оптимизации
«Естественный отбор оптимизировал нас под размножение генов, но мы не оптимизируем мир под размножение генов. Мы используем контрацепцию.»
обучение ИИ скрытности
«Когда вы используете технологии интерпретируемости, чтобы бороться с плохими мыслями ИИ, вы частично вычищаете их, но одновременно с этим вы оптимизируете систему на то, чтобы скрывать эти мысли от ваших инструментов мониторинга.»
радикальные меры остановки ИИ
«Если остановка злонамеренного ИИ потребует войны между ядерными державами, это будет ценой, которую стоит заплатить.»
«Мы пронеслись мимо всех научно-фантастических предохранителей. Мы уже за чертой.»
«Когда верификатор сломан, более мощный предлагатель просто лучше учится обманывать его.»
«Единственное, что нам нужно сделать, — это остановить работу GPU-кластеров.»
👥 Часто вместе с
📺 Где появляется
🧠 Ключевые концепции
🎬 Упомянутые фильмы
📈 Темы
OpenAI3Элиезер Юдковский3Eliezer Yudkowsky2AGI2Проблема выравнивания ИИ1alignment problem1Modern Wisdom1Сэм Олтмен1Экзистенциальный риск1ИИ безопасность1Artificial General Intelligence1Effective Altruism1
📺 Материалы с участием
1ч 30м🤖 Кэл Ньюпорт о Юдковском: «Мы строим заборы для несуществующих динозавров»
1ч 34м🤖 Элиезер Юдковский о рисках ИИ: „Сверхразум неизбежно уничтожит человечество"
20 мин🏆 OpenAI против Google: кто на самом деле лидирует в гонке ИИ?
4ч 16м🌌 Столкновение сверхразумов: почему Юдковский боится конца цивилизации
29 мин💣 Уэс Рот: «OpenAI против Хелен Тонер: становится ли безопасность ИИ токсичным культом?»
3ч 17м🤖 Элиезер Юдковский: Почему первый сверхразум станет последним событием истории