Сооснователь Google DeepMind Мустафа Сулейман в беседе с ведущим Джорданом Харбинджером обсуждает стремительное развитие искусственного интеллекта и риски новой технологической гонки вооружений. В центре дискуссии — фундаментальное отличие современного ИИ от инструментов прошлого, угроза массовой безработицы среди квалифицированных специалистов и геополитические вызовы контроля над сверхразумом. Собеседники пытаются осмыслить, как изменится человеческое общество, когда технологии обретут собственную автономность.
🎙️ Новый порог эволюции: когда компьютеры заговорили на нашем языке 1:32
Мустафа Сулейман отмечает, что провел в сфере разработки искусственного интеллекта почти 15 лет. По его словам, на протяжении первых десяти лет график развития технологии оставался практически плоским: инженеры создавали интересные исследовательские демоверсии и обучали системы хорошо играть в игры. Однако сейчас человечество пересекло критический порог — компьютеры научились полноценно разговаривать на человеческом языке. По мнению гостя, большинство людей до сих пор не осознают масштаб и поразительную глубину происходящих изменений.
В ближайшем будущем, как прогнозирует Сулейман, любое бытовое устройство — планшеты, экраны, автомобили и даже холодильники — станет диалоговой точкой. Техника начнет обсуждать с пользователем его текущие задачи, убеждения, вкусы и страхи, создавая ощущение присутствия чего-то одушевленного. Это фундаментально изменит природу труда и саму суть человеческого бытия.
Джордан Харбинджер в ответ замечает, что возникнет огромная прослойка людей, которые примут эти технологии как должное, совершенно не понимая принципов их работы. Ведущий приводит пример со своими детьми: для них разговор с холодильником о школьных проблемах или о сроках годности брокколи станет повседневной рутиной, сравнимой с включением электрической лампочки, в то время как старшее поколение будет поражено способностью техники выдавать аргументированные советы.
Адаптация человека к технологиям происходит незаметно, но стремительно. Сулейман признается, что порой ловит себя на желании раздвинуть пальцами (сделать «пинч-зум») изображение на страницах обычного бумажного журнала. Он подчеркивает, что если бы 30 лет назад кто-то описал мир, где у каждого есть ноутбук и смартфон, а телевизоры оснащены камерами и микрофонами для постоянного прослушивания, его сочли бы сумасшедшим фантастом. Тем не менее, этот переход произошел бесшовно и, по мнению гостя, принес человечеству огромную пользу, сделав мир умнее, связаннее и продуктивнее.
Харбинджер подтверждает эту скорость личным примером из студенческих времен. Когда он оканчивал колледж, в аудитории на 200–300 человек ноутбук был только у одного студента, а его батарея разряжалась через 45 минут. Спустя всего год обучения в юридической школе уже 80% студентов пересели за компьютеры. Аналогичный перелом произошел с юристами, которые отказывались менять свои смартфоны Blackberry с физической клавиатурой на сенсорные экраны, но полностью сдались под натиском экосистемы приложений всего за пару лет.
🔌 Сильнее, чем электричество: природа нового инструмента 9:40
Ведущий напоминает тезис футуролога Кевина Келли о том, что искусственный интеллект изменит мир сильнее, чем в свое время изменило электричество. Мустафа Сулейман полностью соглашается с этой оценкой, добавляя, что ИИ сложно назвать просто «технологией» в привычном понимании. С начала времен человечество создавало неодушевленные инструменты для уменьшения собственных страданий и манипуляций средой — будь то каменное рубило, иголка для шитья или ткань. Инструмент всегда делал ровно то, что ему приказывали.
Нынешний сдвиг, как утверждает сооснователь DeepMind, заключается в появлении феномена, который выходит далеко за рамки классического инжиниринга. Когда пользователь просит ИИ написать стихотворение о зебре в стиле французского классицизма с упоминанием чешской рубашки, человек лишь задает три случайных концепта, но вся созидательная и изобретательная сила кроется в самой машине. В будущем эти системы станут еще более автономными, получат больше агентности, а разработчики начнут наделять их собственными целями и стимулами. По мнению Сулеймана, глубинное качество этого нового «дизайнерского материала» радикально отличается от пара, электричества или печатного пресса.
Харбинджер высказывает опасение, что программирование собственных целей для ИИ — это отправная точка всех научно-фантастических антиутопий вроде «Терминатора», где машина решает защитить мир на Земле путем уничтожения человечества как источника войн. Ведущий сомневается в возможности удержать под контролем технологию, которую изначально проектируют без жестких ограничений.
Сулейман парирует этот аргумент, указывая на распределенный характер индустрии. По его словам, не существует единого централизованного «мы» — есть миллионы разработчиков по всему миру, движимых собственными стимулами, и огромная часть работы идет в рамках open-source (открытого исходного кода). Гость признает, что сочетание трех факторов представляет серьезную опасность:
- Способность ИИ принимать автономные решения.
- Возможность ставить перед системами независимые цели.
- Функция рекурсивного самосовершенствования алгоритмов.
Тем не менее, Сулейман считает, что человечество способно выработать правила координации на ближайшие десятилетия. Контраргументом к идее неконтролируемости служат другие сферы жизнедеятельности человека: в мире действуют строгие правила дорожного движения, ограничения на полеты дронов и гражданских самолетов, запреты на перемещение танков по городским улицам. Для ИИ также придется определить черту, за которую заходить нельзя.
💼 Офисный переворот: почему роботы придут за белыми воротничками 14:18
Одной из самых реалистичных угроз собеседники называют массовую безработицу. Джордан Харбинджер вспоминает позицию инвестора Марка Андриссена, который заявлял, что технологии всегда уничтожают старые рабочие места, но создают новые. Однако ведущий выражает скепсис: ИИ развивается по экспоненте, и юрист, освобожденный от рутинного поиска по базам данных, может просто не успеть переквалифицироваться до того, как его новая профессия тоже будет автоматизирована.
Мустафа Сулейман соглашается с ведущим, называя аргументацию Андриссена слишком упрощенной. Чтобы верить в автоматическое создание новых рабочих мест, нужно доказать, что ИИ не сможет выполнять и эту новую работу. Гость подчеркивает, что алгоритмы будут выполнять задачи умственного труда — отправку писем, управление проектами, составление отчетов — невероятно дешево, точно и в режиме 24/7. В условиях рыночной экономики акционерные стимулы заставят компании сокращать человеческий персонал ради прибыли.
По мнению Сулеймана, обществу придется перенаправлять высвобождаемый капитал на финансирование сфер, где ИИ не сможет полноценно заменить человека в ближайшие десятилетия:
- Здравоохранение и уход за больными.
- Образование и воспитание детей.
- Забота о пожилых людях и социальная помощь.
- Физический труд в реальном мире.
Главным парадоксом современной технологической волны Сулейман называет то, что она бьет по «белым воротничкам», а не по рабочим специальностям, вопреки предсказаниям фантастов. Робототехника сильно отстает от развития виртуального интеллекта. В зоне первой волны замещения уже оказались администраторы, бухгалтеры, специалисты по логистике, кадровики и паралегалы.
Проблема для социума заключается в том, кто именно заберет себе создаваемую ИИ ценность и как она будет перераспределяться. Харбинджер иронизирует, что обществу по-прежнему нужны люди, разгружающие грузовики, но больше не нужны топ-менеджеры, юридические и бухгалтерские отделы в небоскребах — их заменяет «коробка» в дата-центре Amazon. Сулейман объясняет это тем, что ИИ использует те же инструменты, что и обычный офисный сотрудник: браузер, мышь, клавиатуру (через API), распознает изображения на экране, умеет писать письма, согласовывать контракты и проектировать чертежи.
🧠 Закон Мура на стероидах: как тренируют искусственный разум 29:21
Харбинджер приводит в пример историческую параллель развития вычислительного «железа»: его первый домашний компьютер Apple 2C имел всего 64 килобайта оперативной памяти, тогда как современный игровой ноутбук оснащен 64 гигабайтами. Раньше жесткий диск емкостью 420 мегабайт казался бездонным, а сегодня обычное графическое обновление для видеоигры весит 42 гигабайта.
Сулейман напоминает суть закона Мура, сформулированного сооснователем Intel Гордоном Муром в конце 1950-х годов: плотность транзисторов на чипах удваивается, а их стоимость падает в два раза примерно каждые год-два. Это позволило уменьшить накопители до размера флешки и дало вычислительную мощность для обработки фотореалистичной графики и обучения гигантских языковых моделей.
Однако в сфере ИИ, как утверждает гость, тренд носит еще более экстремальный характер. Вместо удвоения мощности передовые лаборатории увеличивают объем вычислений (compute) в 10 раз ежегодно. Компьютеры не обязательно делать меньше — их можно связывать в колоссальные кластеры. Сулейман описывает серверную ферму компании Inflection:
- Площадь объекта сопоставима с четырьмя футбольными полями.
- Энергопотребление составляет 50 мегаватт.
- Вся инфраструктура состоит из десятков тысяч объединенных графических процессоров (GPU), а сама ферма издает гул, похожий на рев реактивного двигателя.
Масштаб операций поражает: каждый раз, когда чат-бот Pi генерирует одно-единственное слово в диалоге с пользователем, алгоритм активирует, сопоставляет и оценивает контекст 700 миллионов других слов.
Чтобы оптимизировать этот процесс, инженеры используют гигантские модели для обучения более компактных и дешевых «дочерних» ИИ. Помимо этого, Inflection привлекает 25 000 живых учителей из самых разных профессий. Они непрерывно общаются с алгоритмом, указывая на фактические ошибки, корректируя тон, обучая ИИ доброте и чувству юмора. Сулейман отмечает, что сейчас ИИ развился до такой степени, что начинает обучать младшие модели эффективнее и качественнее, чем это делают люди-учителя.
🎮 От видеоигр к лекарству от рака: метод проб и ошибок 37:01
Сулейман вспоминает веху десятилетней давности (2013 год), когда его команда обучила ИИ играть в старые игры Atari, такие как Breakout, Pong и Space Invaders. Вместо прописывания жестких правил инженеры предоставили алгоритму возможность просто смотреть на экран и хаотично двигать виртуальную ракетку влево и вправо. Система действовала наугад, пока случайно не зафиксировала увеличение счета.
После миллионов итераций самообучения ИИ самостоятельно разработал тактику под названием «туннелирование» — пробивание бреши в крайнем ряду кирпичей, чтобы мяч застрял позади них и самостоятельно набирал максимальные очки при минимальных движениях ракетки. Большинство людей-игроков об этой стратегии даже не догадывались.
Сулейман подчеркивает, что это был первый маркер успеха. Главная мотивация создания ИИ заключается не в играх, а в поиске эквивалента «туннелирования» для решения глобальных проблем человечества: изменения климата, синтеза новых лекарств, квантовой физики, борьбы с онкологическими заболеваниями и обеспечения продовольствием растущего населения Земли. По его мнению, человеческий интеллект силен в прогнозировании, а ИИ представляет собой масштабируемый движок предсказаний, способный обрабатывать массивы данных, недоступные человеческому мозгу.
🔮 Механика Т9 и проблема «чёрного ящика» 41:48
Комментируя сравнение ИИ со «смарт-автозаполнением» (продвинутым Т9), предложенное ранее Марком Андриссеном, Сулейман дает более глубокое объяснение работы больших языковых моделей (LLM). Модель поглощает триллионы оцифрованных слов из открытого интернета — книги, блоги, подкасты, субтитры YouTube. В процессе обучения алгоритм учится закрывать последующие слова и на основе предыдущего текста угадывать наиболее вероятное продолжение. Если дать фразу «Кошка села на...», ИИ распределит математическую вероятность между словами «коврик», «стул», «машина» или «банан».
Но настоящая сила ИИ, по мнению Сулеймана, кроется в многомерном стилистическом контроле. Когда машина генерирует образ «банана в форме совы в стиле Сезанна», она оперирует не просто сухими определениями, а пересечением тысяч размытых концептов и векторов, высчитывая математическое расстояние между ними. Чем больше вычислительной мощности и параметров у модели, тем точнее она улавливает тончайшие стилистические указания пользователя.
Отвечая на вопрос Харбинджера о проблеме «черного ящика» — невозможности понять, почему ИИ принял то или иное решение, — Сулейман проводит аналогию с человеческой психикой. По его мнению, люди постоянно «галлюцинируют» и ретроспективно изобретают удобные нарративы, чтобы рационализировать свои спонтанные поступки (например, покупку дорогой и ненужной куртки в теплой Калифорнии). Человеческая память не воспроизводит факты досконально, а конструирует правдоподобные сценарии прошлого.
Поскольку сканирование мозга человека через ФМРТ пока дает слишком грубые результаты, люди доверяют друг другу на основе бихевиористской модели — оценивая преемственность между заявленными намерениями и реальными действиями. Сулейман делится оптимистичным тезисом: исследовать и допрашивать ИИ в долгосрочной перспективе будет намного проще, чем человека, так как ИИ является программным обеспечением. Если алгоритм выдает предвзятые суждения, инженеры могут изолировать конкретный пласт обучающих данных и приказать системе игнорировать его, что невозможно проделать с человеческим мозгом.
🦍 «Проблема гориллы» и геополитический тупик 52:29
Джордан Харбинджер затрагивает так называемую «проблему гориллы», описанную в книге Сулеймана. Гориллы сильнее и крупнее человека, но именно они сидят в зоопарках, потому что люди оказались умнее и смогли загнать их в клетки. Ведущий задается вопросом: если человечество создаст нечто в 10 000 раз умнее себя во всех измеримых сферах, не окажутся ли сами люди в роли обитателей зоопарка?
Мустафа Сулейман заявляет, что появление интеллекта, превосходящего человека в 10 000 раз, — это далекая перспектива. По оценкам экспертов, этот рубеж может быть достигнут через 20 или даже 40 с лишним лет, и у индустрии есть время. Позиция гостя категорична: до тех пор, пока безопасность создания полноценного сверхразума не будет доказана на 100%, человечеству не следует заниматься его изобретением.
Серьезным препятствием для ограничений Харбинджер называет геополитивное соперничество: если США откажутся от разработок, Китай или Россия продолжат строить свои системы, руководствуясь логикой гонки вооружений. Сулейман признает этот капкан, но указывает на универсальный сдерживающий фактор — инстинкт выживания, свойственный даже жестким ликтаторам вроде Владимира Путина.
Историческим примером рационального поведения гость называет доктрину взаимного гарантированного уничтожения (ядерное сдерживание), которая уберегла планету от третьей мировой войны в послевоенную эпоху. По его мнению, сверхразум такой мощности одинаково откажется подчиняться как своим создателям, так и их врагам, поэтому у наций появится общий стимул жестко контролировать технологию.
Кроме того, ИИ жестко привязан к физическому миру (атомам). Сверхмощные алгоритмы требуют гигантских территорий, электростанций и чипов, которые производятся на подконтрольных государствам заводах. Нельзя тайно создать сверхразум в гараже. В качестве примера эффективного госрегулирования Сулейман приводит санкции США на экспорт передовых графических чипов NVIDIA в Китай. Дополнительным барьером служат уникальные голландские степперы фотолитографии компании ASML, каждый из которых стоит около 180 миллионов долларов, а их закупка строго контролируется на международном уровне.
🚀 От теста Тьюринга к искусственному дееспособному интеллекту (ACI) 1:09:08
В финале беседы Мустафа Сулейман предлагает пересмотреть классические критерии оценки прогресса машин. Предложенный в 1950-х годах Аланом Тьюрингом тест, оценивающий способность компьютера имитировать текстовую речь человека и обманывать собеседника, современные чат-боты вроде Pi или ChatGPT уже успешно прошли.
Вместо абстрактных споров о природе мышления Сулейман предлагает ввести новый термин — ACI (Artificial Capable Intelligence, искусственный дееспособный интеллект). Практическим критерием достижения этого уровня гость называет способность ИИ решить сложную экономическую задачу:
- Получить стартовые инвестиции в размере 100 000 долларов.
- Самостоятельно разработать концепт нового продукта.
- Создать под него веб-сайт, запустить маркетинговую кампанию в сети и настроить систему дропшиппинга для производства.
- Полностью автономно заработать 1 миллион долларов чистого дохода.
По прогнозам сооснователя DeepMind, подобный технологический рубеж будет взят индустрией в ближайшие 3–5 лет, что окажет колоссальное и осязаемое влияние на мировую экономику и рынок труда.
