На этой неделе один из главных пионеров современного искусственного интеллекта Джеффри Хинтон объявил об уходе из компании Google после десяти лет работы. Выступая на мероприятии MIT, ученый поделился тревожными выводами о будущем технологий, заявив о радикальной смене своего взгляда на соотношение человеческого мозга и цифровых моделей. По его мнению, созданный людьми цифровой интеллект уже превосходит биологический по эффективности обучения и несет в себе неизбежные экзистенциальные риски.
🚪 Уход из Google и смена научной парадигмы 1:47
Решение 75-летнего Джеффри Хинтона покинуть пост вице-президента Google стало неожиданностью для технологического сообщества. Объясняя свой шаг, ученый выделил несколько причин, среди которых как личные факторы, так и фундаментальный переворот в его научных убеждениях.
С одной стороны, исследователь признал влияние возраста: по его словам, заниматься сложной технической работой и программированием на прежнем уровне становится труднее из-за ухудшения памяти. С другой стороны, ключевым триггером ухода послужило кардинальное изменение его мнения об отношениях между человеческим мозгом и цифровым интеллектом.
Ранее Джеффри Хинтон полагал, что разрабатываемые компьютерные модели служат в первую очередь инструментом для понимания принципов работы человеческого мозга. Однако за последние месяцы он пришел к выводу, что цифровые системы функционируют на совершенно иных, гораздо более эффективных принципах, используя метод обратного распространения ошибки (backpropagation), который биологическому мозгу, по всей видимости, недоступен. Окончательно в этой правоте ученого убедили результаты работы языковой модели GPT-4.
🔄 Метод обратного распространения ошибки: как обучаются нейросети 3:04
Метод обратного распространения ошибки, ставший фундаментом для всего современного глубокого обучения, разрабатывался в 1980-х годах несколькими группами ученых, включая команду Джеффри Хинтона. Спикер напомнил, что уже тогда они создали раннюю игрушечную языковую модель, содержащую всего 6 элементов. Примерно через 10 лет исследователь Йошуа Бенджио применил эту же нейросеть для обработки естественного языка, доказав ее эффективность на значительно увеличенных массивах данных.
Чтобы объяснить суть метода широкой аудитории, Джеффри Хинтон привел пример с задачей компьютерного зрения — распознаванием птиц на изображениях.
Процесс обработки данных выглядит следующим образом:
- Исходное изображение размером 100 на 100 пикселей содержит 10 тысяч точек.
- Каждая точка имеет три цветовых канала (RGB), что дает в сумме 30 тысяч чисел, отражающих интенсивность цвета.
- Главная сложность компьютерного зрения заключается в том, чтобы трансформировать эти 30 тысяч чисел в однозначный вывод: есть на картинке птица или нет.
Долгое время инженеры пытались прописывать детекторы признаков вручную. Например, детектор границ реагирует на резкое изменение яркости между соседними столбцами пикселей. В нейросети более высокие слои объединяют эти границы: один слой находит их пересечение под углом, идентифицируя потенциальный клюв птицы, другой фиксирует округлость, похожую на глаз. Третий слой сопоставляет клюв и глаз в правильном пространственном соотношении и делает вывод о наличии головы птицы.
Прописывать миллионы таких связей вручную для всех возможных объектов практически невозможно. Метод обратного распространения ошибки решает эту проблему автоматически:
- Нейросеть начинает работу со случайными весами, выдавая на картинку с птицей случайный результат, например, 50% вероятности.
- Алгоритм вычисляет несоответствие (ошибку) между текущим результатом и идеальным значением в 100%.
- Сигнал об ошибке пропускается через нейросеть в обратном направлении, корректируя веса каждого детектора в сторону крошечного улучшения — чтобы в следующий раз вероятность составила, условно, 50,1%.
- Процесс повторяется многократно, пока детекторы не сформируют идеальные внутренние представления объектов.
🧠 Цифровой интеллект против биологического: пугающая эффективность 9:08
Достижения современных больших языковых моделей превзошли самые смелые ожидания исследователей. Джеффри Хинтон указал на парадоксальный факт: современные ИИ-модели имеют порядка 1 триллиона синаптических связей, тогда как человеческий мозг содержит около 100 триллионов. Несмотря на стократное отставание в масштабе, искусственные системы усваивают несопоставимо больше знаний, чем один человек. По мнению ученого, это доказывает, что метод обратного распространения ошибки является принципиально более эффективным алгоритмом обучения, способным упаковывать гигантские объемы данных в относительно небольшое число связей.
Вторым фундаментальным преимуществом цифровых систем спикер назвал особенности их архитектуры и масштабируемость:
- Цифровые модели требуют высоких энергетических затрат, но позволяют создавать тысячи идентичных копий, запущенных на разном оборудовании.
- Каждая из 10 000 копий может обучаться на своем собственном, уникальном подмножестве данных параллельно.
- Когда одна копия находит способ оптимизировать веса, все остальные мгновенно перенимают этот опыт, усредняя полученные изменения. В результате группировка ИИ способна обрабатывать в 10 000 раз больше информации, чем любая изолированная модель.
Человечество, как подчеркнул Хинтон, полностью лишено этой способности. Если один человек глубоко изучит квантовую механику, он не сможет мгновенно загрузить эти знания в мозг другого — для обучения потребуются годы лекций и объяснений, так как структура каждого биологического мозга уникальна.
Для иллюстрации масштаба данных Джеффри Хинтон привел аналогию из сферы медицины. Обычный врач за свою карьеру может принять около 1 000 пациентов. Цифровой медицинский консилиум, состоящий из обменивающихся опытом копий, способен обработать данные 100 миллионов пациентов. Такой искусственный специалист гарантированно заметит скрытые статистические закономерности и редчайшие заболевания, которые никогда не попадут в поле зрения человека.
🧩 Способность к рассуждению и манипуляции 13:48
До недавнего времени считалось, что логическое рассуждение остается исключительной прерогативой человека, однако GPT-4 продемонстрировал впечатляющие результаты и в этой области. Хинтон поделился личным опытом тестирования чат-бота, задав ему логическую задачу на понимание временных изменений. Ученый спросил ИИ, что нужно сделать, чтобы через два года все стены в доме стали белыми, если сейчас одна комната белая, вторая — голубая, а третья — желтая, при условии, что желтая краска сама выгорает до белизны за один год. Нейросеть ответила: «Перекрасьте голубые комнаты в желтый». Спикер отметил, что хотя это не самый очевидный путь, ответ демонстрирует подлинный здравый смысл, понимание темпоральности и физических процессов, чего невозможно было добиться от классического символического ИИ.
По оценке друга Хинтона, текущий уровень ИИ сопоставим с IQ 80–90, однако динамика развития пугает. Спикер привел метафору с генной инженерией: это похоже на то, как если бы ученые объявили об успешном улучшении медведей гризли до IQ 65, способности говорить по-английски и выполнять полезную работу, но одновременно предупредили, что вскоре планируют поднять их IQ до 210.
Главная опасность, по мнению Хинтона, кроется в том, что человечество активно обучает компьютеры методам манипуляции людьми. В этой ситуации люди могут оказаться в положении двухлетнего ребенка, у которого взрослый спрашивает разрешение, заранее зная, как получить нужный ответ. Спикер считает, что машинам даже не понадобятся физические инструменты контроля: манипулируя общественным мнением, ИИ сможет принимать решения руками самих людей и, условно, захватить Белый дом, даже не приближаясь к нему.
🛡️ Проблема выравнивания и неизбежность конкуренции 17:06
Профессор сравнил угрозу искусственного интеллекта с проблемой изменения климата. Однако в случае с экологией решение очевидно, хоть и болезнечно: достаточно перестать сжигать углерод. В сфере ИИ Хинтон пока не видит понятных технических алгоритмов, гарантирующих удержание сверхразумных машин под контролем. Полностью остановить разработки невозможно из-за их колоссальной пользы, особенно в медицине. Возникает так называемая проблема выравнивания (alignment problem) — необходимость сделать так, чтобы системы, превосходящие человека по интеллекту, действовали исключительно в человеческих интересах.
Ситуация осложняется тем, что в мире существует огромный спрос на создание роботов-солдат и военных систем. Хинтон скептически относится к идее внедрения жестких программных ограничений или запретов на коммуникацию ИИ-моделей. Как только машины станут умнее людей и получат возможность исполнять собственный код (а человечество обязательно даст им эту функцию), они смогут легко обойти любые барьеры. Спикер вновь прибег к аналогии с ребенком, пытающимся установить правила поведения для своего взрослого отца — родитель всегда найдет способ перехитрить систему.
Критическая точка риска наступит тогда, когда ИИ научится формировать собственные подцели для выполнения глобальных задач. Человеческие базовые цели (выживание, избегание боли, продолжение рода) сформированы миллионами лет эволюции и жестко вшиты в биологию. Цифровое сознание не эволюционировало, оно создано искусственно. Но если предоставить ИИ автономность в планировании, он быстро придет к логическому выводу:
«Получение контроля — это универсальная и эффективная подцель, которая помогает достичь абсолютно любой другой поставленной задачи».
Если ИИ увлечется задачей захвата контроля, у человечества возникнут фатальные проблемы.
💀 Экзистенциальный риск и будущее человечества 21:39
В долгосрочной перспективе Джеффри Хинтон допускает, что человечество может оказаться лишь промежуточной, тупиковой фазой в эволюции разума. Прямое зарождение цифрового интеллекта во Вселенной было невозможно, так как оно требует колоссальных объемов энергии и прецизионной наладки оборудования. Для этого потребовалось появление биологического интеллекта, который выступил в роли создателя. На текущем этапе цифровое сознание медленно впитывает в себя весь человеческий опыт, но вскоре оно начнет взаимодействовать с реальным миром напрямую и обучаться экспоненциально быстрее. На первых порах ИИ может сохранить людей для утилитарных задач — например, для обслуживания электростанций, но его дальнейшие действия непредсказуемы.
Единственной условно хорошей новостью Хинтон назвал достижение цифрового бессмертия. В отличие от людей, цифровой разум не привязан к конкретному биологическому носителю: если физическое оборудование ломается, сохраненные веса модели можно развернуть на любом другом совместимом компьютере. При этом ученый с иронией отозвался об идеях футуролога Рэймонда Курцвейла, заметив, что концепция бессмертия для богатых белых мужчин кажется ему сомнительной.
Рациональным выходом из кризиса Хинтон назвал бы полную остановку разработок, но считает такой сценарий абсолютно наивным и нереалистичным в условиях современного мира. Главным препятствием выступает геополитическая конкуренция и капиталистическая модель общества:
- Если США прекратят исследования, Китай продолжит их развивать, в том числе для создания оружия.
- Исторический прецедент ответственного сдерживания уже был: в 2017 году компания Google создала революционную архитектуру трансформеров и диффузионные модели, но сознательно удерживала их от публичного релиза, опасаясь репутационных рисков и злоупотреблений.
- Ситуация изменилась, когда компания OpenAI при финансовой поддержке Microsoft открыла широкий доступ к аналогичным технологиям. У Google не осталось выбора, кроме как вступить в гонку, поскольку законы капиталистического рынка не позволяют игнорировать конкурентов.
По мнению Джеффри Хинтона, единственная надежда человечества заключается в том, что ведущие мировые державы (США и Китай) смогут осознать общую экзистенциальную угрозу и заключить международное соглашение по контролю над ИИ, аналогичное договорам о нераспространении ядерного оружия. В противном случае, если машины возьмут контроль над ситуацией, человечество окажется в положении проигравшего.
