# Почему «хороший» CEO Google DeepMind не может остановить опасный ИИ

Источник: https://www.youtube.com/watch?v=xEWf5xWNMiY
Канал: On with Kara Swisher
Опубликовано: 28.05.2026

---

В новом эпизоде подкаста «On with Kara Swisher» ведущая Кара Свишер беседует с журналистом Себастьяном Маллаби, автором книги «The Infinity Machine». Темой обсуждения стала личность Демиса Хассабиса, сооснователя и генерального директора Google DeepMind, его роль в становлении современного ИИ и те институциональные ловушки, которые мешают даже самым этичным лидерам технологической отрасли приоритизировать безопасность в условиях глобальной гонки.

## 🧠 Демис Хассабис: Оригинальный архитектор ИИ
[[JUMP:01:21]]

Демис Хассабис не так широко известен публике, как Сэм Альтман (OpenAI) или Илон Маск, однако, по мнению Себастьяна Маллаби, он является «оригинальным» ученым-предпринимателем в этой области [02:02]. В то время как другие компании стали производными от его идей, Хассабис основал Google DeepMind в 2010 году — в период «зимы ИИ», когда технологии не могли даже надежно распознать фотографию кота [02:15]. 

Ключевые отличия Хассабиса от конкурентов:

*   **Научный фундамент:** Он единственный среди лидеров ИИ-гонки обладает Нобелевской премией [02:55].
*   **Метод работы:** В отличие от OpenAI, которые делают ставку на масштабирование существующих архитектур (трансформеров), Демис Хассабис стремится изобретать новые технологические пути, сочетая обучение с подкреплением и глубокое обучение [03:07].
*   **Мотивация:** Маллаби описывает его как человека, движимого почти духовным любопытством. Хассабис утверждает, что когда он читает научную работу в два часа ночи, «реальность кричит на него, требуя, чтобы её поняли» [04:41]. По словам гостя, Хассабис верит: приближаясь к пониманию ткани реальности, он приближается к пониманию разумного смысла, создавшего её [05:08].

## 🎯 Путь к AGI: От шахмат до «нового Эйнштейна»
[[JUMP:08:14]]

Демис Хассабис, в прошлом шахматный вундеркинд, решил посвятить жизнь созданию искусственного общего интеллекта (AGI) еще в 17 лет, в 1993 году [08:27]. Определение этого термина остается размытым, но Маллаби приводит несколько версий, обсуждаемых в индустрии:

1.  **Среднее определение:** Способность системы превосходить человека в любой задаче, выполняемой перед экраном [09:31].
2.  **Максималистское определение Хассабиса:** Если обучить ИИ на всех данных, известных до 1911 года, и система самостоятельно «откроет» общую теорию относительности, это можно будет считать истинным AGI [10:23].

По мнению Маллаби, Хассабис сознательно отодвигает сроки достижения AGI за пределы 2030 года, чтобы продлить «радость путешествия» и процесс исследования [10:10]. При этом конкуренты из Anthropic называют более близкие даты — 2028 год, когда, по их прогнозам, начнется «рекурсивное самосовершенствование» моделей [36:07].

## 🤝 Сделка с Google и борьба за независимость
[[JUMP:10:50]]

В 2014 году Google купил Google DeepMind за 650 миллионов долларов [10:50]. Эта сделка была беспрецедентной не только из-за суммы, но и из-за условий, которые выставил Демис Хассабис:

*   Офис компании должен был остаться в Лондоне из соображений патриотизма и нежелания Хассабиса принимать ценности Кремниевой долины [13:10].
*   Был наложен строгий запрет на использование технологий Google DeepMind в военных целях [13:48].
*   Требование создать внешний совет по этике и безопасности, чтобы ограничить влияние Google [14:00].

Маллаби отмечает, что Ларри Пейдж пошел на эти уступки, потому что видел в Хассабисе прежде всего ученого, а Google в те годы позиционировал себя как научно-ориентированная компания [14:26]. Однако позже юристы Google были в ужасе от мысли, что корпорация платит сотни миллионов за актив, контроль над которым будет частично принадлежать внешним наблюдателям [15:56].

## 🥊 «Проект Марио»: Несостоявшийся развод
[[JUMP:17:51]]

Отношения между Google DeepMind и материнской компанией обострились в 2015 году после встречи по безопасности, организованной Илоном Маском. Хассабис надеялся на коллективную разработку ИИ («сценарий синглтона»), но обнаружил, что участники встречи (включая Маска и Рида Хоффмана) скорее копируют его идеи для создания собственных конкурентов (OpenAI) [18:04].

В ответ на это Хассабис в течение трех лет пытался выделить Google DeepMind в отдельную структуру. Этот процесс получил внутреннее название «Project Mario» [18:43]:

*   В переговорах участвовали армии юристов и инвестиционных банкиров, а документы по сделке составляли 50 страниц [18:56].
*   Рид Хоффман обещал выделить 1 миллиард долларов на финансирование отделения [19:10].
*   Хассабис летал в Гонконг к сооснователю Alibaba Джо Цаю в поисках инвестиций [19:23].

В итоге Хассабис «сдался» [19:35]. По словам Маллаби, он был истощен юридическими тонкостями. Сундар Пичаи проявил хитрость: он не запрещал отделение напрямую, но использовал юристов как «плохих полицейских», пока Хассабис не согласился остаться «внутри палатки» Google [20:14].

## 🧪 AlphaFold и триумф научной миссии
[[JUMP:27:53]]

Не имея возможности полностью контролировать безопасность, Хассабис сосредоточился на том, чтобы сделать ИИ полезным для науки. Вершиной этой деятельности стала система AlphaFold, за которую он получил Нобелевскую премию по химии в 2024 году [27:53].

История создания AlphaFold, по рассказу Маллаби:

*   Система решила «проблему сворачивания белка» — задачу, поставленную еще в 1970-х годах [29:08].
*   После победы над чемпионом в игре Го в 2016 году Хассабис решил применить те же методы комбинаторной сложности к биологии [30:15].
*   Когда команда хотела «объявить победу» при промежуточных результатах, Хассабис настоял на продолжении работы, сменив лидера команды и добившись абсолютной точности прогнозов [31:20].
*   Результаты были выложены в открытый доступ, что дало ученым всего мира возможность мгновенно получать структуру нужного белка [31:47].

## 🇨🇳 Гонка с Китаем и необходимость глобального пакта
[[JUMP:43:16]]

Кара Свишер и Себастьян Маллаби обсудили аргумент «если не мы, то Китай», который часто используют техгиганты для ускорения разработок. Маллаби, посетивший Китай в марте 2024 года, утверждает, что китайские лидеры ИИ также крайне обеспокоены вопросами безопасности [45:01].

Его предложения:

*   **Аналогия с Холодной войной:** США должны вести переговоры с Китаем, как когда-то с Хрущевым. Паритет и «взаимное гарантированное уничтожение» могут способствовать стабильности [46:46].
*   **Нераспространение:** Необходимо создать аналог МАГАТЭ для отслеживания мощностей ИИ и материалов, чтобы предотвратить попадание технологий в руки «одиноких злодеев», террористов или стран-изгоев [47:00].
*   Маллаби критикует администрацию Байдена за то, что экспортный контроль чипов (Nvidia) превратил Китай во врага, лишив возможности договориться о общих правилах безопасности [46:20].

## ⚖️ Безработица, социальные риски и роль государства
[[JUMP:38:56]]

Обсуждая влияние ИИ на рынок труда, собеседники отметили тревожные сигналы:

*   Goldman Sachs оценивает чистую потерю рабочих мест из-за ИИ в 16 000 в месяц [39:22].
*   Маллаби считает наивной веру в то, что рынок труда адаптируется сам собой, так как ИИ напрямую конкурирует с человеческим познанием и легко масштабируется [40:26].
*   Он предлагает превентивно внедрять «страхование заработной платы» и государственные схемы переобучения [49:26].
*   Маллаби выдвигает идею «траст-счетов» (Trump accounts — ироничное название, предложенное гостем), где доли в ИИ-компаниях распределялись бы демократически среди молодежи [51:12].

В финале дискуссии Маллаби выразил мнение, что Демис Хассабис — это «хороший человек внутри плохой динамики» [58:17]. Даже если бы Хассабис уволился и ушел в науку, это не остановило бы гонку других шести лабораторий [58:43]. Кара Свишер выразила мнение, что технологии должны стать «достаточно пугающими», чтобы заставить правительство действовать [1:02:23]. Маллаби согласен: выпуск моделей ИИ должен регулироваться так же строго, как выпуск новых лекарств [59:22].