Искусственный интеллект стремительно эволюционирует, переходя от простого анализа данных к генерации смыслов и автономным действиям в реальном мире. В ходе глубоких дебатов, организованных авторитетным изданием The Economist, сооснователь DeepMind Мустафа Сулейман и всемирно известный историк Юваль Ной Харари обсудили, как грядущая технологическая волна изменит глобальную экономику, геополитический баланс сил и выживание либеральной демократии. Собеседники сопоставили колоссальный терапевтический потенциал новых технологий с экзистенциальными рисками потери человечеством контроля над собственной историей.
🔮 Мир в 2028 году: от генерации слов к автономным действиям 1:45
Мустафа Сулейман предлагает оценить траекторию развития ИИ, оглянувшись на прошедшее десятилетие . По его словам, за последние 10 лет индустрия научилась отлично классифицировать информацию:
- Распознавать сложные объекты на изображениях .
- Анализировать, сортировать и структурировать текст.
- Транскрибировать аудиозаписи и извлекать из них концептуальные смыслы .
Сегодняшний этап развития генеративного ИИ позволяет создавать новые изображения, видео, аудио и тексты с поразительной точностью и изяществом .
Мустафа Сулейман прогнозирует, что в ближайшие пять лет ведущие технологические компании обучат модели, превосходящие GPT-4 по масштабу вычислений более чем в 1000 раз . По его мнению, каждый новый порядок величин в вычислениях приводит к появлению качественно новых эмерджентных свойств.
Главным прорывом ближайших лет сооснователь DeepMind считает способность ИИ планировать свои действия на длительных временных горизонтах. Вместо мгновенной генерации ответа ИИ перейдет к выстраиванию цепочек последовательных действий. Сулейман называет этот этап развитием «способного искусственного интеллекта» (ACI — Artificial Capable Intelligence), который может не просто говорить, но и делать .
В качестве нового критерия разумности Сулейман предлагает современный тест Тьюринга . Вместо текстового диалога машине ставится практическая задача: получить инвестиции в размере 100 000 долларов и за три месяца автономно запустить коммерческий продукт . ИИ должен будет провести исследование рынка, разработать чертежи, договориться с производителем, организовать логистику и продажи . Сулейман полагает, что к 2028 году ИИ сможет автономно выполнять большую часть подобных цепочек, используя API-интерфейсы и совершая звонки людям для переговоров .
🛑 «Конец человеческой истории»: взгляд философа 5:41
Юваль Ной Харари заявляет, что если прогнозы Сулеймана сбудутся, человечество окажется на пороге радикального сдвига . С точки зрения историка, это будет означать не конец истории как таковой, а конец эпохи, в которой доминировали люди. Впервые управление ключевыми процессами перейдет к нечеловеческому, чужеродному интеллекту .
Харари подчеркивает фундаментальное отличие ИИ от всех предыдущих технологий в истории человечества:
- Способность принимать решения. Каменное рубило или атомная бомба не могли сами решить, как их применить . Решение сбросить бомбу на Хиросиму принимал президент Трумэн, а не сам снаряд . ИИ же способен действовать автономно.
- Создание новых идей. Радиоприемник или печатный станок лишь тиражировали произведения человеческой культуры . ИИ способен генерировать принципиально новые концепции, тексты и смыслы в масштабах, недоступных человеческому разуму .
Историк считает, что передача права принятия решений и создания идей автономным алгоритмам полностью разрушит привычный исторический процесс, управляемый людьми.
💡 Великие обещания: зачем мы рискуем? 7:29
Мустафа Сулейман напоминает, что абсолютно все достижения человеческой цивилизации являются продуктом человеческого интеллекта . По его оценке, автоматизация и оптимизация процессов способны принести беспрецедентное изобилие. Сто лет назад на производство одного килограмма зерна уходило в 50 раз больше человеческого труда, чем сегодня . ИИ обещает аналогичный скачок эффективности во всех сферах умственного труда.
Сулейман выделяет ключевые преимущества внедрения ИИ:
- Ускорение научных открытий и разработка новых методов лечения болезней .
- Эффективная борьба с изменением климата за счет точного прогнозирования и распределения ресурсов .
- Появление у каждого человека персонального интеллектуального помощника (своего рода «начальника штаба» или личного ассистента в кармане), который будет фильтровать информацию и оптимизировать повседневные задачи .
Юваль Ной Харари признает, что огромные выгоды технологии делают риск крайне заманчивым . Однако историк полагает, что современное общество переоценивает важность чистого интеллекта .
По мнению Харари, человек разумный (Homo sapiens) сейчас является самым умным, но одновременно самым разрушительным существом на планете, которое ставит под угрозу выживание экосистемы . Он предостерегает, что наращивание интеллектуальной мощи без соразмерного развития мудрости и сознания лишь умножит риски глобальной катастрофы.
💼 Экономика будущего: угроза рабочим местам и социальный раскол 12:30
Размышляя о рынке труда, Мустафа Сулейман выражает умеренный оптимизм на ближайшие 10–20 лет . Он считает, что спрос на человеческий труд сохранится, а ИИ будет выступать в роли инструмента, расширяющего возможности профессионалов. Однако на горизонте 30–50 лет делать прогнозы становится сложно.
Сооснователь DeepMind обращает внимание на то, что ИИ уже демонстрирует высокие результаты в сферах, которые ранее считались исключительно человеческими:
- Творчество: создание оригинальных произведений искусства и генерация нестандартных идей .
- Эмпатия: демонстрация понимания и заботы при взаимодействии с пользователями .
Юваль Ной Харари указывает на то, что даже временные кризисы на рынке труда несут в себе колоссальную опасность. Он приводит исторический пример: Адольф Гитлер пришел к власти в Германии на фоне трех лет 25%-ной безработицы . Таким образом, даже краткосрочный хаос при переходе к новой экономике может разрушить политическую стабильность.
Второй серьезной угрозой Харари считает географический раскол . По его мнению, новые высокооплачиваемые рабочие места будут создаваться в Калифорнии, Техасе или Китае, в то время как развивающиеся страны (например, Гватемала или Пакистан) полностью потеряют свою экономическую базу из-за автоматизации текстильного производства .
Историк сомневается, что правительства развитых стран захотят справедливо перераспределять сверхдоходы от ИИ в глобальном масштабе и помогать безработным на другом конце планеты .
Сулейман соглашается, что управление транзитным периодом потребует новых инструментов налогообложения и перераспределения благ . Он подчеркивает, что конечной целью цивилизации должно быть избавление людей от изнурительного труда ради достижения всеобщего изобилия .
🗳️ Угроза демократии: взлом «операционной системы» общества 17:41
Юваль Ной Харари напоминает, что либеральная демократия в ее современном виде сформировалась под влиянием информационных технологий XIX и XX веков . До изобретения газет, телеграфа, радио и телевидения демократия могла существовать только в масштабах небольших полисов вроде древних Афин . Для функционирования демократии на уровне огромного государства необходим постоянный общественный диалог .
Историк опасается, что новые технологии разрушат этот диалог за счет уничтожения взаимного доверия . Когда публичное пространство заполняется ботами, имитирующими людей, граждане теряют способность отличать реального собеседника от алгоритма . Это делает невозможным содержательную дискуссию.
Харари считает, что ИИ способен «взломать операционную систему» человеческой культуры . По его мнению, точно так же, как государство борется с фальшивомонетничеством для защиты финансовой системы , оно должно законодательно запретить создание «фальшивых людей» (ботов) .
Мустафа Сулейман разделяет опасения историка и поддерживает идею полного запрета на цифровую имитацию личности . В то же время предприниматель отмечает, что за последние 30 лет демократизация вещания позволила миллионам людей вести блоги и подкасты без цензуры крупных медиаинститутов . Он верит, что общество выработает технические и правовые механизмы защиты от ботов, как это происходило при появлении предыдущих медиатехнологий .
Харари возражает, подчеркивая, что в ведущих демократиях мира (таких как США, Великобритания или Израиль) уровень доверия в обществе падает, несмотря на самые передовые коммуникационные технологии . Граждане уже не могут договориться даже о базовых фактах, например о том, кто выиграл выборы .
🛡️ Стратегия сдерживания: 10-пунктный план и превентивные меры 27:01
Для минимизации рисков Мустафа Сулейман предлагает комплекс практических шагов по ограничению и контролю технологий. Его план включает следующие меры:
- Агрессивное стресс-тестирование (Red-teaming). Искусственный интеллект необходимо целенаправленно провоцировать на создание инструкций по сборке химического оружия, бомб или генерацию токсичного контента для выявления уязвимостей .
- Обмен информацией о безопасности. По аналогии с авиационной отраслью, где данные «черных ящиков» после авиакатастроф становятся доступны всем авиакомпаниям, разработчики ИИ должны делиться информацией об инцидентах безопасности с конкурентами .
- Запрет на использование ИИ в предвыборных кампаниях. Общество не должно позволять использовать нестабильные генеративные модели для манипуляции выборами .
- Ограничение опасных функций. Сулейман предлагает исключить возможность предоставления ИИ полной автономии и запретить функцию рекурсивного самосовершенствования (когда ИИ сам переписывает свой код для достижения собственных целей) .
- Лицензирование и аудит. Разработчики передовых систем должны проходить строгую государственную сертификацию, аналогично создателям ядерных технологий .
Сулейман признает сложность контроля в эпоху массового распространения открытого исходного кода (open-source) . По мере того как модели становятся компактнее и дешевле, они неизбежно утекают в сеть.
Предприниматель приводит тревожную аналогию из сферы синтетической биологии: сегодня настольный синтезатор ДНК стоит около 20 000 долларов . Любой студент-биолог может использовать его для создания патогенов, которые могут оказаться опаснее вируса COVID-19 . Сдерживание этой волны Сулейман называет главным вызовом для человечества на ближайшие десятилетия.
🌍 Геополитика и новые институты: как избежать гонки вооружений 32:32
Юваль Ной Харари указывает на геополитический тупик: если бы человечество выступало единым фронтом, сдержать угрозу ИИ было бы относительно просто . Однако в условиях жесткого противостояния между США и Китаем сдерживание становится почти невыполнимой задачей.
Историк предлагает метафору инопланетного вторжения: представьте, что к Земле летит флот высокоинтеллектуальных пришельцев, которые прибудут через 5 лет . Они обещают вылечить рак и победить климатический кризис, но обладают собственной волей . В реальности эти «пришельцы» создаются не в космосе, а в лабораториях Кремниевой долины и Китая .
Харари считает неэффективным жесткое и статичное регулирование. Вместо этого он призывает создавать гибкие «живые институты», способные быстро реагировать на изменения . На данный момент, по его мнению, правительства и университеты катастрофически отстают от коммерческого сектора по уровню кадров и технологических ресурсов . Для эффективного контроля нужны независимые органы, обладающие авторитетом, ресурсами и доверием общества.
Мустафа Сулейман соглашается с необходимостью институциональных реформ. Он выделяет две перспективные инициативы:
- Закон ЕС об искусственном интеллекте (EU AI Act). Данный законопроект предлагает разумную классификацию рисков в зависимости от сферы применения ИИ (здравоохранение, транспорт и т. д.) и накладывает ограничения при превышении порогов опасности .
- Орган по типу IPCC (Межправительственной группы экспертов по изменению климата). Нам необходима независимая международная комиссия для объективной оценки научных фактов и возможностей существующих ИИ-систем . Сулейман готов предоставить таким экспертам полный доступ к технологиям своей компании Inflection AI.
📉 Новые сценарии катастроф: от вирусов до финансового коллапса 39:44
Юваль Ной Харари предлагает выйти за рамки голливудских сюжетов об ИИ, создающем смертоносные вирусы, и рассмотреть угрозы для финансовой системы.
Он напоминает о кризисе 2007–2008 годов, который начался из-за использования сложных деривативов (CDO) . Эти инструменты были изобретены высококлассными математиками, но их структура оказалась настолько сложной, что регуляторы и политики не смогли вовремя оценить риски, что привело к коллапсу мировой экономики.
Харари описывает катастрофический сценарий: ИИ изобретает принципиально новые финансовые инструменты, сложность которых превосходит понимание любого человека . Система начинает приносить создателям гигантскую прибыль, но в определенный момент выходит из строя и обрушивает мировую экономику. При этом ни один министр финансов или президент не понимает причин произошедшего .
Мустафа Сулейман отвечает на это, что западные страны должны твердо следовать своим ценностям и применять меры предосторожности даже в одностороннем порядке . По его мнению, нельзя вступать в «гонку на выживание» и пренебрегать безопасностью только потому, что геополитические соперники могут проигнорировать эти правила .
🧬 Заключение: инвестиции в человеческое сознание 43:33
Объясняя, почему он продолжает разрабатывать технологии ИИ, Мустафа Сулейман подчеркивает, что его цель — продемонстрировать пример создания безопасного ИИ . Разработанный его компанией персональный ассистент Pi спроектирован с жестким приоритетом безопасности: он устойчив к взломам и не генерирует токсичный контент . Сулейман считает грядущую технологическую волну неизбежной и видит свою миссию в том, чтобы направить ее в безопасное русло .
Юваль Ной Харари подводит итог, сравнивая текущую стадию развития ИИ с «амебой» по сравнению с будущим потенциалом технологии . При этом эволюция от «амебы» до «тираннозавра» займет не миллионы лет, а всего около двух десятилетий .
Историк формулирует ключевое правило выживания человечества в новую эпоху: на каждый доллар и каждую минуту, инвестируемые в развитие искусственного интеллекта, необходимо инвестировать один доллар и одну минуту в развитие человеческого сознания и разума . К сожалению, констатирует Харари, на сегодняшний день этот баланс критически смещен в сторону машин .
