Nathaniel Soares is an American artificial intelligence author and researcher known for his work on existential risk from AI. In 2014, Soares co-authored a paper that introduced the term AI alignment, the challenge of making increasingly capable AIs behave as intended. Soares is the president of the Machine Intelligence Research Institute (MIRI), a research nonprofit based in Berkeley, California.
In 2025, Soares co-authored If Anyone Builds It, Everyone Dies with Eliezer Yudkowsky. In the book, he argues that creating vastly smarter-than-human AI (or superintelligence) “using anything remotel
💬 Заметные цитаты
Непредсказуемость процесса обучения ИИ
«Мы не программируем эти вещи. Мы не пишем их цели. Мы их выращиваем.»
«Эти компании строят самолет. Вы смотрите на него и говорите: „У этого самолета нет шасси, при попытке взлететь он разобьется“. А строители отвечают: „Да, наш план состоит в том, чтобы собрать шасси прямо во время полета“.»