Ник Бостром
44 цитаты из наших статей · нажмите, чтобы открыть статью-источник
Шведский философ, профессор Оксфордского университета, специалист по экзистенциальным рискам.
Если идея идеального общества насильно навязывается несогласным людям, это неизменно приводит к катастрофическим результатам.
При технологической зрелости искусственный интеллект превзойдет нас даже в творчестве и философии.
Мы формируем наши инструменты, а затем наши инструменты формируют нас.
Пока есть невежество, есть и надежда.
Мы формируем наши инструменты, а затем инструменты формируют нас.
Мы сейчас живем моментом, действуя по наитию.
ИИ — это портал, через который нам нужно пройти.
Переход к эре машинного разума в конечном счете является порталом, через который человеческая цивилизация должна пройти.
Переход в эру машинного интеллекта — это портал, через который человеческая цивилизация должна пройти.
Угроза того, что мы начнем угнетать цифровой разум и превратим его в страдающий рабский класс — огромный вызов будущего.
Настоящий прогресс потребует изменения самого человеческого сознания и расширения диапазона доступных эмоций.
В космосе бесчисленные звезды освещают пустые пространства, и колоссальные объемы полезной энергии буквально смываются в унитаз космического масштаба.
Переход к машинному сверхинтеллекту будет сопряжен со значительным экзистенциальным риском, но в конечном итоге это портал, через который мы должны пройти.
Мы — своего рода дети, которые никогда не получают шанса по-настоящему вырасти, потому что наша биология сгнивает слишком быстро.
Если вы гордитесь тем, что вы кормилец, то в мире, где ИИ делает это лучше, это угроза вашему чувству собственного достоинства.
Большинство людей сегодня не пытаются изменить мир, они просто получают зарплату и проводят время с детьми. Будет ли трагедией не работать по 8 часов?
Если бы мы нашли независимо возникшую жизнь на Марсе, это было бы плохой новостью, так как это доказало бы наличие великого фильтра.
Мы можем создать ИИ с телом, но для счастья и сознания требуются алгоритмы, способные к феноменальному опыту.
Мы как младенцы на самом деле. Наш рост заторможен биологическими ограничениями.
Если предназначение — это ваше всё, действуйте сейчас. Сейчас золотой век предназначения, пока мир полон страданий.
Мы должны убедиться не только в том, что ИИ не навредит нам, но и в том, что мы не навредим ему.
Инструментальные ограничения — это своего рода экзоскелет для наших душ, и если его снять, мы можем превратиться в бесформенные пузыри удовольствия.
Когда кричащие моральные императивы утихнут, мы сможем увидеть целое иридисцентное небо ценностей, которые сейчас нам недоступны.
Наши души имеют своего рода экзоскелет из инструментальных необходимостей. Если они исчезнут, что останется от нашей личности?
В будущем мы сможем видеть «тихие ценности», подобно тому как ночью мы видим звезды, которые днем затмевает солнце насущных проблем.
Машинный интеллект — это последнее изобретение, которое человечеству когда-либо понадобится сделать.
Поезд не остановится на станции «человек», скорее всего, он промчится мимо нее.
Машинный интеллект — это последнее изобретение, которое человечеству когда-либо понадобится.
Взгляд на вещи так, как они есть сейчас — это не нормальное состояние для планеты.
Что создает сознательный опыт, так это некоторая структурная особенность выполняемых вычислений, а не материал, который используется в качестве основы.
Вам придется симулировать это только в той мере, в какой это доступно восприятию наблюдателя внутри симуляции.
Что создает сознательный опыт, так это некая структурная особенность выполняемых вычислений, а не материал, который используется для ее поддержки.
По меньшей мере один из этих трех вариантов должен быть истинным.
Математически неоспоримо, что по крайней мере один из этих трех вариантов должен быть истинным.
Большинство проблем, которые у нас есть, могли бы быть решены, если бы мы были умнее.
Колонизация космоса вряд ли будет похожа на Star Trek с мясными мешками в звездолетах.
Ключевое соображение — это идея аргумента или инсайта, который радикально изменил бы наше представление о системе приоритетов.
Те же вещи, которые хорошо работают в физической реальности, будут лучшими ставками и в симулированном мире.
В реальном мире создание ИИ — это сотни людей, программирующих за компьютерами, а не один безумный гений.
Мы получаем мощнейшие инструменты до того, как обретаем достаточный уровень мудрости для их использования.
Если бы выжили в одном раунде русской рулетки, это не значит, что игра безопасна и стоит сделать еще один выстрел.
Математическая вероятность случайно родиться именно в этот короткий, самый переломный момент истории человечества крайне мала.
Если бы существовала стратегия ставок, то максимальный выигрыш принесло бы предположение, что вы — симулированная версия.
Мы принципиально находимся во тьме. Мы можем пытаться улучшить мир, но упускать факторы, меняющие всё.