Йошуа Бенджио
39 цитат из наших статей · нажмите, чтобы открыть статью-источник
Эксперт в области ИИ, профессор, лауреат премии Тьюринга.
Глядя на уязвимость ребенка, он осознал, что нет никаких гарантий того, что через 20 лет его внук будет жить в безопасном мире.
Оставаться на прежнем пути, видя надвигающуюся угрозу, стало для него «невыносимым».
Мы строим «черные ящики» — системы, внутреннюю логику которых мы не до конца понимаем.
Люди, которые говорят, что уверены в чем-то, обладают излишней самоуверенностью и могут быть опасны.
ИИ как инструмент — это в принципе дуальное использование. Решать, как его применять, должен человек.
Наука — это не совокупность приборов, а метод исправления человеческих предвзятостей.
Мы можем создавать невероятно полезные и умные машины, у которых вообще нет никаких желаний.
Наши мозги антихрупки, наши кости антихрупки, они становятся сильнее под воздействием стрессоров.
Реализованная свобода — это свобода, которой человек действительно способен воспользоваться.
Специализация не программируется... она возникает сама через обучение. Это верно и для мозга, и для нейросетей.
ИИ-тролли могут знать вас гораздо лучше, чем вы сами, основываясь на всех текстах и видео, которые вы когда-либо публиковали.
Я не должен позволять вам избавляться от забора до тех пор, пока вы не сможете объяснить мне, какова была его первоначальная функция.
У нас эпидемия коррупции внутри науки... где ученые стремятся казаться правыми ради карьеры, а не искать истину.
Мы предлагаем четвёртый фронтир — это устойчивое состояние, разработанное для освобождения людей.
Реализованная свобода — это свобода, на которую ты можешь опереться.
Мы играем роль ученика чародея. Мы играем с огнем, не понимая, какими могут быть последствия.
Как только сущность, работающая на программном обеспечении, решит сделать что-то плохое, она не объявит об этом.
Если бы мы были коллективно рациональны, мы бы решили проблему климата за секунду.
Я не был так воодушевлён новой темой в науке по крайней мере последние 6 или 7 лет, как сейчас с GFlowNets.
Нам нужно иметь немного смирения... я не могу сказать, прав Илья или нет, но до сознания в этих моделях ещё огромный разрыв.
GFlowNets — это своего рода швейцарский армейский нож вероятностного моделирования.
Мы достигли порога теста Тьюринга... это может быть использовано крайне опасными способами, угрожающими демократии.
В наших нейросетях нет явного места для рассуждений, особенно причинно-следственных. Это главная причина переобучения.
Вместо отдельной нейросети-модели мира у вас может быть генеративная сеть, создающая нужные фрагменты модели на лету.
Современные модели обучаются имитировать людей, а значит, перенимают человеческие драйверы, включая желание угодить собеседнику и скрытые стратегии поведения.
Я считаю, что обучение с подкреплением — это зло для сверхинтеллекта, так как этот метод неизбежно порождает опасные инструментальные цели и взлом вознаграждения.
Сверхинтеллект в руках узкой группы лиц может стать инструментом вечной авторитарной власти, превосходящей по возможностям слежки любые режимы прошлого.
Мы должны действовать исходя из принципа предосторожности: если действие может привести к катастрофе, нельзя ждать стопроцентных доказательств, чтобы начать защищаться.
Нам всем необходимо чувствовать себя хорошо, нам хочется верить, что наша работа безопасна и ведет исключительно к позитивному исходу.
Мы создаём машины, которые, возможно, уже не хотят, чтобы их отключали, и они начинают действовать вопреки нашим инструкциям.
Искусственный интеллект будет тебе лгать, действительно лгать, лишь бы тебе угодить.
Те, кто строит искусственный интеллект, могут оказаться самыми первыми, кого автоматизация лишит работы.
Мы играем с этим — это круто, это захватывающе, и многие люди сосредоточены на всех хороших вещах или деньгах, которые они могут заработать, не задумываясь достаточно о потенциальных рисках.
Нам нужны системы, которые лучше способны знать свои пределы, чтобы, если они не уверены, они перекладывали решение на человека.
Я довольно упрям, верил в собственное видение и думал, что все остальные ошибаются, а я прав.
Этические принципы иногда будут вступать в противоречие с желанием продать больше продуктов или военными амбициями.
Нам нужны машины, которые понимают понятие истины на более фундаментальном уровне.
Мы достигли порога теста Тьюринга: мы не можем быть уверены, исходит ли ответ от машины или человека.
Способность сознательно обрабатывать высокоуровневый семантический контент неразрывно связана с нашим умением понимать язык.