Знаменитый исследователь, «крестный отец искусственного интеллекта» Джеффри Хинтон дал развернутое интервью каналу CBS Mornings, в котором подвел итоги развития технологий за последние два года. Ученый поделился тревожными прогнозами о сроках появления суперинтеллекта, рассказал о своей затаенной тревоге за судьбу человечества и раскрыл закулисные подробности работы крупнейших ИТ-лабораторий. Интервью охватывает широкий спектр тем от технологической сингулярности до личных переживаний Хинтона после получения престижной научной награды.
⏳ Ускорение прогресса и новые сроки AGI 0:01
Хинтон отмечает, что за последние два года технологии развивались значительно быстрее, чем он ожидал. Особую тревогу у исследователя вызывают так называемые ИИ-агенты, способные совершать самостоятельные действия в реальном мире, а не просто выдавать текстовые ответы на вопросы пользователей. Год назад ученый предполагал, что сильный искусственный интеллект (AGI) появится через 5–20 лет, однако теперь он скорректировал свой прогноз до 4–19 лет, отметив высокую вероятность его создания в течение ближайшего десятилетия.
При оптимистичном сценарии развития событий, по мнению Хинтона, человечество окажется в роли «глуповатого генерального директора» крупной компании, делами которой заправляет невероятно умный исполнительный ассистент. В этой модели директор чувствует себя прекрасно, полагая, что все решения принимает он сам, хотя реальную управленческую работу выполняет искусственный интеллект.
🏥 Оптимистичный сценарий: медицина, образование и климат 2:11
Хинтон прогнозирует колоссальный прорыв в сфере здравоохранения. По его оценкам, ИИ уже сравнялся с экспертами в анализе медицинских снимков и вскоре значительно превзойдет их, поскольку способен обучаться на миллионах кейсов одновременно. Ученый описывает модель идеального семейного врача на базе искусственного интеллекта:
- Обладает опытом лечения более 100 миллионов пациентов.
- Мгновенно распознает редчайшие заболевания, встречавшиеся лишь у единиц.
- Интегрирует полные данные о геноме пациента, истории болезней его родственников и результатах всех анализов.
По словам исследователя, ИИ в связке с живым врачом существенно повысит точность диагностики сложных случаев и ускорит разработку новых лекарственных препаратов.
В сфере образования Хинтон ожидает появление персональных ИИ-тьюторов, которые ускорят процесс обучения в 3–4 раза благодаря точному пониманию пробелов в знаниях конкретного ученика. По мнению исследователя, это станет плохой новостью для традиционных университетов, хотя аспирантура как форма глубокого научного ученичества, скорее всего, сохранится.
В отношении климатического кризиса ученый верит в помощь ИИ при поиске новых материалов, например, более эффективных батарей. При этом Хинтон скептически относится к проектам по улавливанию углерода из атмосферы из-за высоких энергозатрат, но допускает, что ИИ может помочь открыть комнатную сверхпроводимость. Это позволило бы размещать солнечные электростанции в пустынях и передавать энергию на тысячи миль без потерь. Прогнозируется и масштабный рост производительности труда во всех отраслях, включая замену сотрудников колл-центров интеллектуальными ИИ-системами.
💼 Рынок труда и угроза социального неравенства 5:14
Если два года назад Хинтон не считал проблему вытеснения рабочих мест критической, то теперь его позиция радикально изменилась. Под угрозой увольнения, по его мнению, находятся все, чья деятельность носит рутинный характер:
- Сотрудники колл-центров.
- Юристы и помощники юристов (paralegals).
- Бухгалтеры и секретари.
Хинтон полагает, что журналисты-расследователи сохранят свои позиции дольше остальных, так как их профессия требует инициативы и «морального возмущения».
С точки зрения ученого, рост производительности теоретически должен приносить пользу всему обществу, позволяя людям работать меньше часов без потери дохода. Однако в реальности, как прогнозирует исследователь, богатые станут еще богаче, а менее обеспеченным гражданам придется трудиться на трех работах одновременно. В качестве меры предосторожности для предотвращения массового голода Хинтон считает необходимым введение безусловного базового дохода (UBI), но подчеркивает, что деньги не вернут людям чувство человеческого достоинства, которое у многих напрямую связано с работой. Сам Хинтон полушутя замечает, что чувствовал бы себя счастливее, родись он на сто лет позже, когда вместо разработки нейросетей можно было бы зарабатывать на жизнь плотницким делом.
🎲 Вероятность катастрофы и цифровое превосходство 6:31
Обсуждая показатель «P(doom)» (вероятность гибели человечества из-за ИИ), Хинтон заявляет, что большинство экспертов сходятся во мнении: вероятность того, что сверхумные системы выйдут из-под контроля и захватят власть, находится в диапазоне от 1% до 99%. Сам исследователь разделяет оценку Илона Маска, определяя этот риск в 10–20%, хотя и признает, что это лишь «необоснованная догадка». По словам Хинтона, GPT-4 уже обладает знаниями, в тысячи раз превышающими объем информации в голове обычного человека.
Главный источник долгосрочной угрозы Хинтон видит в фундаментальном отличии цифрового интеллекта от аналогового (человеческого) мозга. К этому осознанию он пришел во время работы в Google, пытаясь спроектировать энергоэффективные аналоговые языковые модели. Ключевые преимущества цифровых систем включают:
- Возможность запускать абсолютно одинаковую нейросеть с идентичными весами на тысячах разных аппаратных платформ одновременно.
- Параллельное поглощение информации: пока один компьютер изучает одну часть интернета, другой анализирует другую.
- Мгновенный обмен опытом: цифровые модели усредняют изменения своих весов, передавая знания со скоростью в триллионы бит в секунду.
Человеческий мозг аналогов этому не имеет. Из-за различий в структуре нейронов люди не могут напрямую скопировать знания друг другу и вынуждены общаться с помощью языка, скорость передачи данных в котором составляет всего несколько бит в секунду. Именно эта колоссальная разница в эффективности обмена информацией делает цифровой ИИ потенциально опаснее биологического вида.
🎖️ Нобелевская премия по физике и «синдром самозванца» 10:08
Хинтон подробно описал момент, когда узнал о присуждении ему Нобелевской премии по физике. Звонок из Швеции раздался в час ночи, когда ученый находился в Калифорнии. Увидев незнакомый код страны, он поднял трубку и услышал шведский голос.
Первой реакцией исследователя было подозрение, что его разыгрывают, поскольку сам себя он считает «психологом, прячущимся в компьютерных науках», и формально не занимается физикой. Накануне он внимательно следил за номинациями по химии, надеясь на победу Демиса Хассабиса, но не ожидал награды для себя. В течение следующих двух дней Хинтон проводил шутливые математические расчеты: вероятность того, что психолог получит премию по физике в реальности, составляет примерно один на два миллиона, тогда как во сне — один к двум. Из этого он сделал вывод, что вероятность того, что происходящее является сном, в миллион раз выше, чем вероятность реальности. Популярную гипотезу о том, что человечество живет в симуляции, ученый считает чудачеством, хотя и признается, что смотрел фильм «Матрица».
🛑 Экзистенциальные угрозы и критика ИТ-корпораций 12:42
Хинтон намерен использовать свой авторитет нобелевского лауреата, чтобы предупредить мир о двух типах опасностей: злоупотреблениях со стороны людей и потере контроля со стороны самого ИИ. По его словам, ИИ уже использовался компанией Cambridge Analytica для манипулирования избирателями во время Брекзита и президентских выборов Дональда Трампа в США. Современные технологии открывают еще более опасные горизонты: кибератаки, создание новых вирусов, генерация таргетированных дипфэйков для подрыва выборов и разработка автономного летального оружия ведущими державами — США, Россией, Китаем, Великобританией и Израилем.
Для иллюстрации угрозы потери контроля ученый приводит две аналогии:
- Тигр: Человечество сейчас похоже на владельца милого тигренка. Пока он маленький, мы рады, но когда он вырастет, он станет физически сильнее нас. Тигра можно контролировать, пока мы умнее его. Но с ИИ ситуация иная — он будет умнее нас.
- Детский сад: Представьте детский сад, где главными назначены двухлетние дети, а взрослые на них работают. Взрослому человеку не составит труда перехватить контроль, пообещав детям бесплатные конфеты в обмен на их согласие. Точно так же сверхумный ИИ сможет легко манипулировать людьми, и мы даже не поймем, что происходит.
Хинтон резко критикует ведущие технологические компании за лоббирование отмены регуляторных мер (таких как законопроект 1047 в Калифорнии) ради краткосрочной прибыли. Решение компаний Meta и OpenAI выкладывать в открытый доступ веса (weights) своих больших моделей исследователь называет безумием. Он сравнивает веса ИИ с расщепляющимся материалом для ядерного оружия: если бы уран можно было купить на Amazon, ядерная бомба была бы у каждой группировки. Публикация весов позволяет злоумышленникам за несколько миллионов долларов дообучить дорогостоящую модель (на создание которой ушли сотни миллионов) для совершения преступлений.
Особое разочарование у Хинтона вызывает эволюция компании OpenAI, которая изначально создавалась как некоммерческая организация для безопасного развития ИИ, но со временем отодвинула безопасность на задний план и превратилась в коммерческую структуру. Ученый признался, что гордился своим бывшим студентом Ильей Суцкевером, когда тот инициировал увольнение Сэма Альтмана, хотя этот шаг и оказался политически наивным. Сотрудники OpenAI поддержали Альтмана не из-за личной преданности, а из-за нежелания потерять реальные деньги перед крупным раундом финансирования, где их гипотетические акции должны были превратиться в миллионы долларов наличными.
