💬 Заметные цитаты
Непредсказуемость процесса обучения ИИ
«Мы не программируем эти вещи. Мы не пишем их цели. Мы их выращиваем.»
Человеческий интеллект как долгосрочная угроза
«Человечество опасно как вид не потому, что у нас есть пушки, а потому, что мы можем создать ядерное оружие голыми руками за 10 000 лет.»
Недопустимость любого риска катастрофы
«Если мост имеет 10% шанс рухнуть в следующем году, я бы по нему не поехал.»
Риск случайного уничтожения человечества
«Когда люди строят дорогу и закатывают в асфальт муравейник, это не потому, что они ненавидят муравьев. Они их просто не замечают.»
Безответственность компаний-разработчиков ИИ
«Эти компании строят самолет. Вы смотрите на него и говорите: „У этого самолета нет шасси, при попытке взлететь он разобьется“. А строители отвечают: „Да, наш план состоит в том, чтобы собрать шасси прямо во время полета“.»
«Проблема не в том, кому достанется банан. Проблема в том, что мы не знаем, как сделать банан полезным для всех.»
«ИИ — это не программный код, это выращивание организма.»
👥 Часто вместе с
📺 Где появляется
📚 Какие книги обсуждались
- If Anyone Builds It, Everyone Dies — Нейт Соарес, Элиезер Юдковский 1
- If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All — Нейт Соарес 1
📈 Темы
Нейт Соарес3Anthropic2Хэнк Грин1супер интеллект1экзистенциальный риск1Galvanic Labs1Элиезер Юдковский1Machine Intelligence Research Institute1ChatGPT1AI alignment1OpenAI1
