Джеффри Хинтон

Пока ИИ не обладает телом, сантехники и мастера по ремонту физических систем находятся вне конкуренции.

Если вы хотите знать, какова жизнь, когда вы перестаете быть высшим интеллектом на планете, спросите курицу.

Когда я чувствую легкую депрессию, я думаю, что люди — это «тосты», всё кончено. Когда я в хорошем настроении — верю, что мы найдем способ.

Я не чувствую вины за создание ИИ, потому что 40 лет назад мы не могли представить, как быстро это произойдет.

Для рутинного интеллектуального труда ИИ просто заменит всех. Это как замена мускулов машинами в индустриальную революцию.

Мы решили проблему бессмертия, но только для цифровых существ.

Если вы хотите знать, какова жизнь, когда вы больше не высший разум на планете, спросите у курицы.

Тренируйтесь на сантехника. Пройдет много времени, прежде чем ИИ станет так же хорош в физических манипуляциях, как мы.

Если вы хотите узнать, каково это — жить, когда вы не являетесь вершиной интеллекта, спросите курицу.

Они бессмертны. Мы фактически решили проблему бессмертия, но только для цифровых сущностей.

Тренируйтесь на сантехника.

Шансы ИИ уничтожить человечество — где-то между нулем и ста процентами. Это не немыслимо.

Вы не можете понять, как что-то устроено, пока не попробуете это построить.

Если вы сегодня будете хорошо спать ночью, значит, вы не поняли эту лекцию.

Я пришел к выводу, что цифровой интеллект обладает свойствами, которых у нас никогда не будет. И это должно вас очень беспокоить.

Субъективный опыт — это просто косвенный способ сообщить о том, что происходит в моем мозгу.

Обратное распространение отлично сжимает информацию, но для нашего мозга это не главная проблема: у нас полно синапсов.

Мы окажемся в ситуации, с которой никогда не сталкивались прежде: когда мы не будем высшим интеллектом.

Люди, которые говорят, что чат-боты — это просто автозаполнение, на самом деле не имеют теории о том, как понимаем мы сами.

Если вы дадите ИИ возможность создавать подцели, он очень быстро создаст одну очевидную — получить больше контроля.

Большинство оригинальных идей — неверны. Matlab очень удобен для быстрого доказательства их ошибочности.

Люди воспринимают сознание как звуковой барьер: либо ты ниже скорости звука, либо выше. Это совсем не так.

Я особенно горжусь тем фактом, что один из моих учеников уволил Сэма Олтмена.

Если вы во что-то верите, не сдавайтесь, пока не поймете, почему эта вера ошибочна.

Публичные дебаты со Шмидхубером о научном признании нецелесообразны, потому что это только подстегивает его.

Я никогда не утверждал, что изобрел метод обратного распространения ошибки.

Гусеница — это машина для извлечения питательных веществ, а бабочка — для путешествий и спаривания. В ИИ нам нужны такие же разные модели для обучения и использования.

Если робот говорит «я открываю ящик» и реально его открывает, очень трудно утверждать, что он не понимает, что делает.

Мы — как класс трехлетних детей, которыми управляет взрослый. Ему достаточно пообещать нам конфеты, чтобы мы отдали власть.

Цифровой интеллект решил проблему воскрешения. Мы — еще нет.

Индустриальная революция заменила мускулы, а революция в ИИ заменяет интеллект, мозг.

Когда умирает человек, все его знания умирают вместе с ним. Когда умирают эти системы, знания остаются.

Мы движемся в период, когда впервые в истории у нас могут появиться вещи более умные, чем мы сами.

Мы разработали лишь принцип обучения, но когда этот алгоритм взаимодействует с данными, он создает сложные сети, чьи действия мы не до конца понимаем.

Люди разрабатывают ИИ-агентов, которые могут буквально действовать за вас: заказывать товары, расплачиваться кредитной картой. Как только у вас появляются такие агенты, шанс, что они возьмут управление на себя, возрастает.

Если между сверхинтеллектами возникнет эволюционная конкуренция, они неизбежно переймут те неприятные свойства, которые мы унаследовали от предков-шимпанзе.

Это не 5,7 миллиона против миллиардов, как можно подумать.

Мы сейчас создаем существ, поэтому это философский, а может, даже духовный кризис, а не только практический.

Я думаю что компьютерные модели скорее всего работают совершенно иначе чем мозг они используют метод обратного распространения ошибки а мозг вероятно нет.

Если вы даете чему-то возможность ставить свои по цели чтобы достигать других целей Думаю оно очень быстро поймет что получение контроля — хорошая подцель.

Компьютерные модели скорее всего работают совершенно иначе чем мозг они используют метод обратного распространения ошибки а мозг вероятно нет

Если вы даете чему-то возможность ставить свои по цели чтобы достигать других целей Думаю оно очень быстро поймет что получение контроля это хорошая подцель

Вполне Может быть так что человечество лишь промежуточная фаза в эволюции интеллекта

Мы строим этих пришельцев, но они прибудут примерно через 10 лет и будут умнее нас.

Мы как человек, у которого есть очень милый тигренок. Пока вы не будете уверены, что он не захочет вас убить, когда вырастет, вам стоит беспокоиться.

Сверхразумные ИИ будут настолько умнее нас, что мы понятия не будем иметь, что они замышляют.

Появление ИИ-агентов делает ситуацию более пугающей, поскольку они могут совершать действия в реальном мире.

Мы как будто завели милого тигренка. Пока он маленький, мы рады, но когда он вырастет, он станет сильнее нас.

Мы можем сжать все человеческое знание в триллион соединений, в то время как у нас самих их 100 триллионов, но мы знаем гораздо меньше.

Если прибыль от ИИ достанется только богатым, это сделает общество еще хуже.

Мы до конца не понимаем, как они работают. Вы можете подумать, что мы понимаем их, потому что мы их запрограммировали, но это не так.

Если сверхинтеллект появится, вероятность того, что он заменит нас, я оцениваю в 10–20%, и это мой оптимистичный прогноз.

Это как политические коалиции. Группы нейронов, которые «пингуют» вместе.

Нам повезло: мы на грани создания чего-то умнее нас, и никто не знает, что произойдет.

У нас не было идеи, что это произойдет так быстро. Мы думали, у нас полно времени на беспокойство.