В новом эпизоде подкаста «On with Kara Swisher» ведущая Кара Свишер беседует с журналистом Себастьяном Маллаби, автором книги «The Infinity Machine». Темой обсуждения стала личность Демиса Хассабиса, сооснователя и генерального директора Google DeepMind, его роль в становлении современного ИИ и те институциональные ловушки, которые мешают даже самым этичным лидерам технологической отрасли приоритизировать безопасность в условиях глобальной гонки.
🧠 Демис Хассабис: Оригинальный архитектор ИИ 1:21
Демис Хассабис не так широко известен публике, как Сэм Альтман (OpenAI) или Илон Маск, однако, по мнению Себастьяна Маллаби, он является «оригинальным» ученым-предпринимателем в этой области . В то время как другие компании стали производными от его идей, Хассабис основал Google DeepMind в 2010 году — в период «зимы ИИ», когда технологии не могли даже надежно распознать фотографию кота .
Ключевые отличия Хассабиса от конкурентов:
- Научный фундамент: Он единственный среди лидеров ИИ-гонки обладает Нобелевской премией .
- Метод работы: В отличие от OpenAI, которые делают ставку на масштабирование существующих архитектур (трансформеров), Демис Хассабис стремится изобретать новые технологические пути, сочетая обучение с подкреплением и глубокое обучение .
- Мотивация: Маллаби описывает его как человека, движимого почти духовным любопытством. Хассабис утверждает, что когда он читает научную работу в два часа ночи, «реальность кричит на него, требуя, чтобы её поняли» . По словам гостя, Хассабис верит: приближаясь к пониманию ткани реальности, он приближается к пониманию разумного смысла, создавшего её .
🎯 Путь к AGI: От шахмат до «нового Эйнштейна» 8:14
Демис Хассабис, в прошлом шахматный вундеркинд, решил посвятить жизнь созданию искусственного общего интеллекта (AGI) еще в 17 лет, в 1993 году . Определение этого термина остается размытым, но Маллаби приводит несколько версий, обсуждаемых в индустрии:
- Среднее определение: Способность системы превосходить человека в любой задаче, выполняемой перед экраном .
- Максималистское определение Хассабиса: Если обучить ИИ на всех данных, известных до 1911 года, и система самостоятельно «откроет» общую теорию относительности, это можно будет считать истинным AGI .
По мнению Маллаби, Хассабис сознательно отодвигает сроки достижения AGI за пределы 2030 года, чтобы продлить «радость путешествия» и процесс исследования . При этом конкуренты из Anthropic называют более близкие даты — 2028 год, когда, по их прогнозам, начнется «рекурсивное самосовершенствование» моделей .
🤝 Сделка с Google и борьба за независимость 10:50
В 2014 году Google купил Google DeepMind за 650 миллионов долларов . Эта сделка была беспрецедентной не только из-за суммы, но и из-за условий, которые выставил Демис Хассабис:
- Офис компании должен был остаться в Лондоне из соображений патриотизма и нежелания Хассабиса принимать ценности Кремниевой долины .
- Был наложен строгий запрет на использование технологий Google DeepMind в военных целях .
- Требование создать внешний совет по этике и безопасности, чтобы ограничить влияние Google .
Маллаби отмечает, что Ларри Пейдж пошел на эти уступки, потому что видел в Хассабисе прежде всего ученого, а Google в те годы позиционировал себя как научно-ориентированная компания . Однако позже юристы Google были в ужасе от мысли, что корпорация платит сотни миллионов за актив, контроль над которым будет частично принадлежать внешним наблюдателям .
🥊 «Проект Марио»: Несостоявшийся развод 17:51
Отношения между Google DeepMind и материнской компанией обострились в 2015 году после встречи по безопасности, организованной Илоном Маском. Хассабис надеялся на коллективную разработку ИИ («сценарий синглтона»), но обнаружил, что участники встречи (включая Маска и Рида Хоффмана) скорее копируют его идеи для создания собственных конкурентов (OpenAI) .
В ответ на это Хассабис в течение трех лет пытался выделить Google DeepMind в отдельную структуру. Этот процесс получил внутреннее название «Project Mario» :
- В переговорах участвовали армии юристов и инвестиционных банкиров, а документы по сделке составляли 50 страниц .
- Рид Хоффман обещал выделить 1 миллиард долларов на финансирование отделения .
- Хассабис летал в Гонконг к сооснователю Alibaba Джо Цаю в поисках инвестиций .
В итоге Хассабис «сдался» . По словам Маллаби, он был истощен юридическими тонкостями. Сундар Пичаи проявил хитрость: он не запрещал отделение напрямую, но использовал юристов как «плохих полицейских», пока Хассабис не согласился остаться «внутри палатки» Google .
🧪 AlphaFold и триумф научной миссии 27:53
Не имея возможности полностью контролировать безопасность, Хассабис сосредоточился на том, чтобы сделать ИИ полезным для науки. Вершиной этой деятельности стала система AlphaFold, за которую он получил Нобелевскую премию по химии в 2024 году .
История создания AlphaFold, по рассказу Маллаби:
- Система решила «проблему сворачивания белка» — задачу, поставленную еще в 1970-х годах .
- После победы над чемпионом в игре Го в 2016 году Хассабис решил применить те же методы комбинаторной сложности к биологии .
- Когда команда хотела «объявить победу» при промежуточных результатах, Хассабис настоял на продолжении работы, сменив лидера команды и добившись абсолютной точности прогнозов .
- Результаты были выложены в открытый доступ, что дало ученым всего мира возможность мгновенно получать структуру нужного белка .
🇨🇳 Гонка с Китаем и необходимость глобального пакта 43:16
Кара Свишер и Себастьян Маллаби обсудили аргумент «если не мы, то Китай», который часто используют техгиганты для ускорения разработок. Маллаби, посетивший Китай в марте 2024 года, утверждает, что китайские лидеры ИИ также крайне обеспокоены вопросами безопасности .
Его предложения:
- Аналогия с Холодной войной: США должны вести переговоры с Китаем, как когда-то с Хрущевым. Паритет и «взаимное гарантированное уничтожение» могут способствовать стабильности .
- Нераспространение: Необходимо создать аналог МАГАТЭ для отслеживания мощностей ИИ и материалов, чтобы предотвратить попадание технологий в руки «одиноких злодеев», террористов или стран-изгоев .
- Маллаби критикует администрацию Байдена за то, что экспортный контроль чипов (Nvidia) превратил Китай во врага, лишив возможности договориться о общих правилах безопасности .
⚖️ Безработица, социальные риски и роль государства 38:56
Обсуждая влияние ИИ на рынок труда, собеседники отметили тревожные сигналы:
- Goldman Sachs оценивает чистую потерю рабочих мест из-за ИИ в 16 000 в месяц .
- Маллаби считает наивной веру в то, что рынок труда адаптируется сам собой, так как ИИ напрямую конкурирует с человеческим познанием и легко масштабируется .
- Он предлагает превентивно внедрять «страхование заработной платы» и государственные схемы переобучения .
- Маллаби выдвигает идею «траст-счетов» (Trump accounts — ироничное название, предложенное гостем), где доли в ИИ-компаниях распределялись бы демократически среди молодежи .
В финале дискуссии Маллаби выразил мнение, что Демис Хассабис — это «хороший человек внутри плохой динамики» . Даже если бы Хассабис уволился и ушел в науку, это не остановило бы гонку других шести лабораторий . Кара Свишер выразила мнение, что технологии должны стать «достаточно пугающими», чтобы заставить правительство действовать . Маллаби согласен: выпуск моделей ИИ должен регулироваться так же строго, как выпуск новых лекарств .
