Бен Герцель

Проблема выравнивания в том, что человечество не выровнено само с собой.

Языковые модели — это съезд с трассы на пути к AGI.

Человечество не выровнено само с собой — вот главная проблема выравнивания ИИ.

Как только AGI начнет заниматься изобретениями, экспонента кривой роста станет еще круче.

Большие языковые модели — это просто очень способные, но скучные посредственные авторы.

Лучше децентрализовать AGI, чтобы не было одного человека, которого можно застрелить, чтобы остановить сингулярность.

Мы строим прототипы AGI как аутичных психопатов, которых заботит только максимизация прибыли и просмотров.

Я верю, что каждая элементарная частица имеет свою искру сознания.

Дэвид Хэнсон — это блестящий ум, стоящий за Софией, и пока что он остается более интересным, чем его создание.

Я не параноик, я оптимист по натуре, но интеллектуально я обязан присвоить ненулевую вероятность неприятным исходам.

Вы можете рассказать людям точно, как это работает, и им будет все равно. Они хотят быть вовлеченными в иллюзию.

Моя цель в исследованиях долголетия — упразднить чуму недобровольной смерти.

Многое из того, что мы считаем злом, — это на самом деле просто эгоизм. А то, что мы считаем добром, — это альтруизм, работа на благо племени.

Я думаю, человечество способно на фундаментально более позитивный и радостный режим социального существования, чем тот, что мы имеем сейчас.

Увеличение размера сети не обеспечит вам понимание в большей степени, чем быстрая машина поможет вам добраться до Марса.

Эти нейросети — очень умные, блестящие идиоты. Они не формируют абстрактных представлений.

Интеллектуально я должен назначить ненулевую вероятность таким неприятным исходам, потому что, если вы создаете нечто в 10 раз умнее вас, как вы можете знать, что оно сделает?

Три ценности: Радость, Рост и Выбор. Это то, что может длиться вечно.

Я хочу сделать несколько версий себя: одну человеческую, но без смерти, и другую, которая сольется с AGI.