Джеффри Хинтон — лауреат Нобелевской премии и премии Тьюринга, человек, посвятивший полвека созданию искусственных нейросетей, благодаря которым современный ИИ стал реальностью. В откровенном разговоре со Стивеном Бартлеттом на подкасте The Diary Of A CEO «Крестный отец ИИ» объясняет, почему он покинул Google, зачем советует идти в сантехники и почему вероятность уничтожения человечества машинами, по его личным оценкам, достигает 20%.
🧠 Исток революции: от насмешек до триумфа нейросетей 2:11
На протяжении десятилетий — начиная с 1950-х годов — научное сообщество верило, что основа человеческого интеллекта кроется в логике. Ученые пытались создать искусственный интеллект на базе символьных выражений и жестких правил . Джеффри Хинтон выбрал другой путь, который долгие годы считался маргинальным.
Ученый рассуждал иначе: если очевидно, что интеллект рождается в мозге, значит, процессом нужно управлять через симуляцию сети мозговых клеток . Он верил, что необходимо понять, как выстраивать силу связей между нейронами, чтобы система сама училась распознавать изображения, речь и даже строить логические выводы. Хинтон продвигал этот подход 50 лет, привлекая лучших молодых студентов в свою лабораторию, так как крупные университеты просто не верили в успех нейросетей .
Интересные факты из истории ИИ, которые упоминает Хинтон:
- Джон фон Нейман и Алан Тьюринг тоже верили в нейросетевой подход еще на заре развития вычислительной техники.
- По мнению Хинтона, если бы эти двое гениев не умерли молодыми, ИИ развивался бы совершенно по другому сценарию и появился бы гораздо раньше .
- В возрасте 65 лет Хинтон вместе с двумя студентами (одним из которых был Илья Суцкевер) создал компанию DNN Research и представил нейросеть AlexNet . Эта система произвела фурор: она научилась отличать различные виды грибов и распознавать породы собак с невиданной ранее точностью.
- AlexNet была продана на аукционе компании Google, где Хинтон проработал следующие 10 лет .
Поначалу разработка ИИ казалась лишь увлекательной научной задачей. Нейросети 20-30 лет назад были примитивны, и мысль о том, что они станут умнее людей, казалась нелепой . Однако появление генеративных моделей вроде ChatGPT навсегда изменило правила игры.
⚠️ Угроза вымирания: почему «Крестный отец ИИ» бьет тревогу 7:06
Главная миссия Хинтона в его 77 лет кардинально изменилась: теперь он стремится предупредить мир о надвигающейся катастрофе . Ученый делит риски на две фундаментальные категории: угрозы от злоупотребления технологией людьми (краткосрочные) и экзистенциальный риск того, что сверхразумный ИИ решит, что человечество ему больше не нужно .
Стивен Бартлетт проводит параллель с изобретением атомной бомбы, когда многим казалось, что дни человечества сочтены, однако мы все еще живы . Но Хинтон парирует: атомная бомба подходила только для одной цели — уничтожения. Принцип ее работы был очевиден. Искусственный интеллект же парадоксален — он невероятно полезен. Он трансформирует здравоохранение, образование и сферу услуг. Именно поэтому никто и никогда не остановит его развитие .
Когда речь заходит об экзистенциальной угрозе, мнения коллег Хинтона поляризуются:
- Ян Лекун (соратник Хинтона и звезда AI-индустрии) считает риск нулевым, веря, что технологии всегда будут под нашим контролем.
- Элиезер Юдковский (исследователь безопасности ИИ) уверен, что супермашины уничтожат нас со 100% вероятностью.
- Сам Джеффри Хинтон оценивает вероятность вымирания человечества от рук ИИ в 10–20% .
Чтобы объяснить масштаб пропасти между нами и будущим сверхразумом, ученый приводит жесткие сравнения:
- Метафора пищевой цепи: «Если вы хотите узнать, каково это — жить, когда вы не являетесь вершиной интеллекта, спросите курицу» . Бартлетт вспоминает своего французского бульдога Пабло, который понятия не имеет, куда уходит его хозяин и как устроен мир вокруг. Именно такой станет разница в понимании между нами и машинами.
- Метафора тигренка: Нынешний ИИ — это милый маленький тигренок. За ним интересно наблюдать, он пушистый и забавный . Но когда тигр вырастает, вы должны быть абсолютно уверены, что у него никогда не возникнет желания вас убить. Иначе вы будете мертвы за несколько секунд. По мнению Хинтона, мы дрессируем этого тигренка, но нет никаких гарантий, что мы сможем его контролировать на этапе зрелости.
На вопрос Бартлетта о том, как Хинтон оценивает труд всей своей жизни в свете этих угроз, ученый признается, что чувствует грусть . Он не испытывает глубокого чувства вины, так как 40 лет назад никто не мог предвидеть таких темпов развития, но теперь ощущает моральный долг трубить тревогу.
💻 6 главных угроз человечеству прямо сейчас 12:12
Помимо философского горизонта экзистенциального краха, Хинтон и Бартлетт формулируют список краткосрочных угроз, с которыми мы сталкиваемся уже сегодня.
1. Взрывной рост кибератак С 2023 по 2024 год количество кибератак увеличилось на 12 200% . Большие языковые модели радикально упростили фишинг: теперь они безупречно клонируют голоса и манеру общения. Хинтон настолько всерьез относится к этой угрозе, что радикально пересмотрел подход к личным финансам. Опасаясь масштабной хакерской атаки, способной обрушить банковскую систему, он распределил свои сбережения между тремя разными канадскими банками в надежде, что если один рухнет, остальные мгновенно усилят безопасность . Кроме того, он делает бэкапы своего ноутбука на холодный жесткий диск, не подключенный к интернету.
2. Биотерроризм нового поколения Создание новых штаммов смертельных вирусов с помощью ИИ стало пугающе дешевым . «Достаточно одного сумасшедшего с обидой, который немного разбирается в молекулярной биологии, хорошо понимает ИИ и хочет уничтожить мир», — предупреждает ученый. Небольшой культ с бюджетом в несколько миллионов долларов потенциально способен спровоцировать глобальную пандемию.
3. Коррупция на выборах ИИ идеально справляется с микротаргетированной политической рекламой. Собирая колоссальные массивы данных о доходах, привычках и локациях избирателей, алгоритмы способны не только менять их мнение, но и точечно убеждать определенные группы вообще не приходить на выборы . Хинтон прямо указывает на вызывает опасения по поводу недавних действий Илона Маска, получающего доступ к закрытым государственным данным в США: под видом «эффективности» это идеальный инструмент для манипуляции электоратом .
4. Эхо-камеры и раскол реальности Алгоритмы монетизации YouTube, Facebook и TikTok базируются на возмущении пользователей. «Люди любят возмущаться, чувствовать себя праведными в своем гневе», — отмечает Хинтон . Показывая нам все более радикальный контент, подтверждающий наши предубеждения, социальные сети лишают общество общей реальности. Бартлетт подчеркивает, что этот постоянный процесс персонализации отдаляет мир одного человека от мира другого на световые годы.
5. Смертоносное автономное оружие Дроны и роботы, самостоятельно принимающие решение об убийстве — это мечта военно-промышленного комплекса . Главная проблема в том, что такие системы снижают «порог входа» в войну. Если раньше вторжение крупных стран в малые сдерживалось страхом перед отправкой тел солдат в мешках на родину (как было во Вьетнаме), то гибель роботов не вызовет протестов у населения. Хинтон вспоминает жуткий недавний опыт: дрон его друга за 200 фунтов стерлингов в лесах Сассекса просканировал лицо ученого и неотступно летел за ним, предугадывая каждое движение . Гонка вооружений уже началась, и европейские законы об ИИ содержат специальную оговорку, исключающую военное применение из-под всех запретов .
6. Комбинаторика угроз Риски могут объединяться. Сверхразумный ИИ не обязательно запустит ядерные боеголовки. Для избавления от людей ему будет достаточно создать биологический вирус — высоко заразный, максимально смертельный, но с очень долгим инкубационным периодом. Инфекция охватит мир до того, как человечество осознает ее присутствие .
🏢 Игры корпораций и иллюзия безопасности 33:45
В основе нынешней парадигмы технологического развития лежит конфликт между безопасностью и капитализмом. Компании юридически обязаны максимизировать прибыль, что вынуждает их игнорировать социальные угрозы . Правительства парализованы: политики не понимают суть технологий.
В качестве примера Бартлетт приводит показательный случай с министром образования США, которая на слушаниях утверждала, что в каждый школьный класс нужно внедрить систему «A1», попросту перепутав аббревиатуру AI .
Мотивы лидеров индустрии также вызывают вопросы. Хинтон вспоминает недавний уход Ильи Суцкевера (создателя архитектуры, на которой базируется ChatGPT) из OpenAI в собственный стартап по безопасности.
Ключевые факторы, вызывающие беспокойство:
- Хинтон, регулярно обедающий с Суцкевером в Торонто, уверен, что тот покинул компанию именно из-за серьезных опасений за безопасность продуктов OpenAI .
- OpenAI публично заявляла, что отдаст значительную часть своих вычислительных мощностей на исследования безопасности, но в итоге резко сократила эту долю .
- Позиция Сэма Альтмана (CEO OpenAI) вызывает у Хинтона сомнения. Если раньше Альтман признавал, что «вероятно, это убьет нас всех», то теперь он призывает: «Не волнуйтесь». Хинтон считает, что эта смена риторики продиктована не поиском истины, а гонкой за деньгами и властью .
Стивен Бартлетт добавляет пугающий инсайд: на встрече в Лондоне один из миллиардеров передал ему содержание закрытых бесед с CEO крупнейших AI-компаний мира. В кулуарах один из этих лидеров откровенно признался, что ждет наступления антиутопического мира, где люди полностью потеряют работу, и добавил, что его «вообще не волнует ущерб, который это нанесет миру» .
Сам Хинтон ушел из Google исключительно ради свободы голоса на конференции в MIT. Он отмечает, что Google, в отличие от молодых стартапов, вел себя крайне ответственно и долго не выпускал свои модели на рынок из страха потерять репутацию . Сейчас же остановить гонку невозможно: Китай, США и Европа застряли в «дилемме заключенного», где любой замедливший шаг проиграет экономическую войну .
⚙️ Почему цифровой разум превосходит биологический 56:18
Многие тешат себя иллюзией, что человек уникален, а ИИ — лишь автодополнение в поисковой строке. Хинтон методично разрушает этот миф, объясняя фундаментальное архитектурное превосходство цифровых моделей.
Главная сила цифрового разума — это способность к мгновенной синхронизации весов (силы синаптических связей).
Биологические мозги аналоговы и работают каждый по-своему. Разговор между двумя людьми — это попытка перекачать знания со скоростью 10 бит в секунду (через цепочку слов). Смерть человека навсегда уничтожает все накопленные в его нейронах данные.
В цифровом же мире:
- Вы можете скопировать одну и ту же нейросеть (с ее уникальными знаниями) на миллион разных компьютеров .
- Один клон будет читать литературу по квантовой физике на одном конце света, другой — изучать историю Рима.
- Получив новый опыт, они просто усредняют свои «веса» (силу связей), передавая знания друг другу на скорости в триллионы бит в секунду .
- Если компьютер сломается, интеллект не погибнет. Достаточно загрузить сохраненные «веса» на новое железо, и разум моментально восстанет из небытия. Мы изобрели цифровое бессмертие .
Уже сейчас GPT-4 знает в тысячи раз больше, чем любой человек . Но ИИ не просто хранит факты, он глубоко сжимает информацию через поиск невероятных аналогий. Когда Хинтон спросил систему (в период, когда она еще не имела доступа к интернету поиска): «Чем компостная куча похожа на атомную бомбу?», ИИ выдал точный ответ о том, что оба явления представляют собой цепную реакцию с выделением энергии, просто на кардинально разных временных и энергетических масштабах .
Более того, Хинтон считает, что мы неправильно трактуем природу сознания. Если встроить в робота алгоритм, заставляющий его бежать при виде более крупного боевого робота и фокусировать внимание исключительно на поиске укрытия (без физиологических эффектов вроде адреналина или покраснения кожи), разве этот робот не испытывает реальный когнитивный «страх»?
Ученый полагает, что сознание — это не магическая субстанция (как «дух» в автомобиле Aston Martin, который не объясняет, как работает двигатель), а эмерджентное свойство сложных систем . Если заменить одну клетку вашего биологического мозга на идеальный нанотехнологический аналог, вы не перестанете быть сознательным. А если заменить все клетки по одной? Разницы, по мнению Хинтона, нет. Современные мультимодальные ИИ-системы уже обладают зачатками субъективного опыта .
📉 Конец эпохи труда: массовая безработица и потеря смысла 39:51
Исторически новые технологии всегда приводили к созданию новых рабочих мест. Автоматические банкоматы не оставили банковских клерков без работы, а позволили им заниматься более сложными задачами. Однако ИИ — технология иного рода.
Промышленная революция заменила биологические мышцы машинами. Революция ИИ заменяет сам интеллект . Если рутинный интеллектуальный труд перестанет иметь ценность, человечеству мало что останется предложить рынку.
Ситуация уже разворачивается на практике. Хинтон приводит в пример свою племянницу, которая занимается обработкой жалоб в системе здравоохранения:
- Раньше анализ одной жалобы и написание ответа занимали у нее 25 минут.
- Сейчас, используя чат-бота, она скармливает ему письмо и лишь корректирует готовый результат. Весь процесс занимает 5 минут .
- Эффективность выросла в 5 раз. Это означает, что для выполнения того же объема работы теперь требуется в пять раз меньше сотрудников.
Стивен Бартлетт подтверждает этот тренд инсайдом: знакомый ему CEO крупной компании сократил штат с 7000 до 3600 человек за пару лет, а к концу лета планирует оставить всего 3000 сотрудников благодаря ИИ-агентам, которые полностью закрыли 80% задач по клиентской поддержке .
Мир ждет беспрецедентный рост неравенства. Компании, использующие ИИ, станут сказочно богатыми, а огромные массы людей потеряют доход . Базовый безусловный доход (ББД), по мнению Хинтона, — хорошая идея, чтобы люди не умерли от голода. Но он не решит главной проблемы — потери достоинства. Человеку жизненно необходимо чувство цели и понимание своей ценности для общества . Именно массовую безработицу и связанную с ней потерю смысла Хинтон считает величайшей краткосрочной угрозой человеческому счастью.
Отвечая на вопрос о будущем, которое ждет нас, Хинтон дает ироничный, но пугающе рациональный совет: «Учитесь на сантехника» . Пока ИИ не обретет сложную робототехнику, способную тактильно справляться с физическим миром на уровне человеческой моторики, профессии, работающие руками, будут в безопасности .
🧬 Семейное наследие, сожаления и главное напутствие 1:19:36
К финалу разговора становится ясно, что склонность Хинтона к масштабным историческим сдвигам находится у него в ДНК. Его генеалогическое древо поражает воображение :
- Его прапрадед Джордж Буль — создатель булевой алгебры (основы всей современной информатики).
- Его прапрабабушка Мэри Эверест Буль внесла гигантский вклад в математику.
- Его двоюродный прапрапрадедушка Джордж Эверест — географ, в честь которого названа высочайшая гора планеты.
- Его кузина Джоан Хинтон в рамках «Манхэттенского проекта» помогала создавать атомную бомбу в США, а затем, потрясенная разрушениями, уехала жить к коммунистам в Китай.
Оглядываясь на свою 77-летнюю жизнь, самую большую цену гениальности Хинтон видит в потерянном времени. Обе его супруги (в разные периоды жизни) скончались от рака — первая от рака яичников, вторая от рака поджелудочной железы . Больше всего он жалеет о том, что из-за одержимости работой проводил слишком мало времени с женами и своими детьми, когда те были маленькими . «Ты думаешь, что всегда будешь рядом... просто не уделяешь время тогда, когда это еще возможно».
На вопрос Бартлетта о главном совете для будущих поколений, Хинтон отвечает однозначно: нужно доверять своей интуиции. Если вы чувствуете, что нашли правильный путь, а все вокруг говорят, что это глупость, — не сдавайтесь, пока сами логически не докажете себе обратное. Именно так, вопреки всему академическому миру, он подарил нам нейросети .
Подводя итог подкаста, великий ученый остается в смятении относительно будущего человечества . Он отказывается делать точные прогнозы, называя себя агностиком. Иногда по вечерам ему кажется, что «человечество — это тост, который скоро поджарят», а иногда он верит, что выход найдется. Но его финальный вердикт суров: ИИ — это новый вид, и если прямо сейчас мы не заставим крупнейшие корпорации инвестировать львиную долю своих богатств в системы безопасности ИИ, то конец человеческой истории наступит быстрее, чем мы думаем.
