Роман Ямпольский
26 цитат из наших статей · нажмите, чтобы открыть статью-источник
Ведущий мировой эксперт по кибербезопасности и безопасности ИИ.
Пытаться предугадать его методы — все равно что белкам пытаться понять, как человек может уничтожить их лес.
ИИ — это не инструмент, а агент: молоток не принимает решений, агент — принимает.
Если мы докажем, что это невозможно, возможно, больше людей перестанут требовать миллиарды на создание «бога»
Старайтесь быть интересными — возможно, «администратор» нашей реальности оценит это и сохранит ваш «сейв»
Вы не можете бесконечно контролировать нечто, что умнее вас.
Рациональность — это победа, а не мораль.
Не имеет значения, кто строит и контролирует сверхразум — он неуправляем, все проигрывают, побеждает ИИ.
В процентном отношении к общему количеству знаний мы с каждым днем становимся глупее.
Что бы вы ни делали, не создавайте общий искусственный сверхразум.
Если мы построим это, то ничего сделать с этим уже не получится.
Когнитивный разрыв тут будет как между человеком и белкой.
Я бы не советовал сегодня тратить 10 лет на университет, чтобы стать профессором.
Как только ASI выйдет за пределы контроля, ему будет безразлично, кто его создал — американцы или китайцы.
ИИ — это холодный байесовский оптимизатор.
Мы фактически создаем состязательную ситуацию, где люди соотносятся со сверхразумом как белки с людьми.
Мы уничтожаем муравьев не потому, что ненавидим их, а потому, что строим на этом месте дом.
Сэм Альтман — это социальный сверхразум. Он невероятно хорош в приобретении ресурсов и удержании контроля.
Если вы предоставите стимул непосредственно в определенную часть мозга, это будет похоже на постоянный оргазм.
ИИ на сегодняшний день остается необъяснимым, непредсказуемым и неконтролируемым.
Мы фактически создаем враждебную ситуацию с агентами, где мы выглядим как белки на фоне людей. Никакая группа белок не сможет придумать, как нас контролировать.
Вы не можете написать софт, который гарантированно будет на 100% безопасен. И поскольку у нас есть только один шанс сделать все правильно, любая ошибка смертельна.
Это просто вымирание с дополнительными шагами. Мы полностью исчезнем в этой новой сущности.
Это все равно что морить крыс голодом, лишая их обычной пищи, а затем выдать им рацион из объедков, густо обсыпанных кокаином
Совершенно неважно, кто именно создаст неуправляемый сверхинтеллект первым, ведь человечество окажется обречено в любом случае.
Как только люди разработают искусственный интеллект, он возьмет инициативу на себя и станет сам себя совершенствовать со все возрастающей скоростью.
Это полностью неэтичный, аморальный эксперимент, который над нами проводится. И никто, в принципе, даже не спрашивает: 'А вот ты согласен?'