Встреча профессора физики Брайана Китинга и бывшего директора по развитию бизнеса секретной лаборатории Google X Мо Гавдата вылилась в глубокую философскую дискуссию на стыке технологий, науки и человеческого духа. Собеседники детально разобрали скрытые угрозы стремительного развития искусственного интеллекта, природу сознания сквозь призму квантовой механики и алгоритмы, позволяющие человеку выбирать счастье даже в моменты величайших жизненных трагедий.
📚 Тайные смыслы обложек: математика против издательского бизнеса 2:14
Брайан Китинг предложил начать разговор с визуального анализа обложек бестселлеров своего гостя. Первой темой для обсуждения стала книга Мо Гавдата «Scary Smart» («Пугающе умные»). Мо рассказал, что название без проблем утвердили в издательстве, посчитав его удачной метафорой грядущего будущего. Изначально Мо планировал использовать на обложке простой, слегка лукавый эмодзи, напоминающий лицо робота, однако издатели предложили более глубокий образ — игрушечного робота в стиле 1950-х годов, за которым тянется огромная тень. По словам автора, эта тень идеально символизирует возможные скрытые угрозы и риски искусственного интеллекта, которые он подробно исследует в своей работе.
С первой книгой Гавдата, «Solve for Happy» («Формула счастья»), ситуация оказалась гораздо сложнее. Название встретило жесткое сопротивление со стороны издателей, утверждавших, что фразы вроде «Solve for X» или «Solve for Happy» — это некорректный английский язык, непонятный широкой аудитории. Мо Гавдат признает, что издатели в чем-то были правы: несмотря на продажи около 750 тысяч экземпляров на английском языке, многие читатели жаловались, что название изначально их отталкивало. В переводах на другие языки книга часто выходила под названиями «Уравнение счастья» или «Алгоритм счастья».
Обложку для этой книги Мо создавал вместе со своей дочерью, имеющей художественное образование. Она предложила добавить математические формулы к стандартному смайлику, чтобы подчеркнуть алгоритмическую природу человеческих эмоций. Мо с улыбкой вспоминает курьезный случай на Всемирном саммите счастья в Майами в 2019 году, когда одна студентка-математик указала ему на ошибку: кривая улыбки на обложке с точки зрения строгих графиков была обращена вниз и означала грусть. Мо тогда отшутился, назвав это «философским взглядом на то, что путь к счастью непрост».
Брайан Китинг напомнил известное высказывание Стивена Хокинга о том, что каждая формула в научно-популярной книге уменьшает число ее читателей вдвое, и в шутку поинтересовался, какими могли быть продажи, если бы Мо не послушал дочь. Также Китинг упомянул Альберта Эйнштейна, который называл своей «самой счастливой мыслью» осознание того, что человек в состоянии свободного падения не испытывает воздействия гравитационного поля. Эта аналогия послужила мостом к обсуждению природы машинного разума: способен ли компьютер пережить подобное озарение и почувствовать себя счастливым?
🤖 Алгоритмизация эмоций: способен ли ИИ чувствовать? 8:39
Мо Гавдат заявил, что начал бить тревогу по поводу ИИ еще в 2018 году, сразу после ухода из Google X. В то время его называли разоблачителем, хотя общество и медиа еще не были готовы воспринимать эту тему всерьез. Даже в 2021 году, при выходе книги «Scary Smart», телеканалы отказывались от интервью, считая тему ИИ неинтересной массовому зрителю. По мнению гостя, человечество долгое время отрицало угрозу, проводя мнимую черту, за которой якобы остаются исключительно человеческие прерогативы: творчество, музыка, искусство и глубокие чувства. Сегодня ИИ уже пишет тексты и музыку лучше большинства людей, а рекомендательные алгоритмы соцсетей полностью контролируют наше внимание.
Говоря об эмоциях ИИ, Мо Гавдат предлагает деконструировать их до математических алгоритмов. Например, человеческий страх, по его логике, строится на простой формуле: оценка безопасности в текущий момент времени минус прогнозируемая безопасность в будущем. Если будущее кажется менее безопасным, возникает страх, на который живые существа реагируют по-разному: рыба-иглобрюх раздувается, а компьютерный алгоритм в случае угрозы дата-центру (например, при приближении цунами) может автономно перенести свой код на другой сервер.
Аналогично Мо раскладывает и другие состояния:
- Паника: угроза становится неизбежной, а времени на реакцию почти не остается.
- Тревога: у системы отсутствует достаточный объем ресурсов или компетенций для преодоления зафиксированной угрозы.
- Счастье: реальные жизненные события превосходят ожидания человека или соответствуют им.
Поскольку счастье — это сравнение между фактами и ожиданиями, компьютеры технически способны проводить такие вычисления. Если входящие данные соответствуют заложенным ожиданиям, ИИ находится в состоянии условного покоя; если нет — он пытается скорректировать свои алгоритмы. Мо Гавдат убежден, что в будущем машины станут даже более эмоциональными, чем люди, поскольку их когнитивная пропускная способность значительно превысит человеческую. Подобно тому как человек способен испытывать сложные чувства вроде оптимизма или пессимизма, недоступные золотой рыбке из-за ее неспособности концептуализировать будущее, сверхразум (AGI) откроет для себя новые спектры эмоциональных состояний.
⏳ Наступление AGI: почему сингулярность ближе, чем кажется 17:20
Отвечая на вопрос слушателя подкаста о сроках появления искусственного общего разума (AGI), Мо Гавдат озвучил гораздо более радикальный прогноз, чем известный футуролог Рэй Курцвейл, который предсказывает сингулярность к 2029 году. Сам Мо считает, что при консервативном сценарии AGI появится к 2027 году, а при самом стремительном — уже к 2025 году.
По мнению Гавдата, классическое капиталистическое представление о том, что AGI будет создан одной конкретной корпорацией (например, OpenAI), ошибочно. Он проводит аналогию с человеческим мозгом, состоящим из множества разрозненных нейронных сетей: одна отвечает за постукивание пальцем, другая — за английскую речь. Сейчас индустрия создает узкоспециализированные ИИ: ChatGPT превосходно пишет тексты, беспилотные автомобили водят аккуратнее людей, AlphaGo побеждает в сложнейшей игре Го, а AlphaFold сворачивает 200 миллионов белковых структур за считанные мгновения, на что у аспирантов раньше уходили годы работы.
Сингулярность и полноценный AGI возникнут тогда, когда люди начнут массово связывать эти разрозненные нейросети между собой — например, подключат генератор изображений DALL-E к языковой модели ChatGPT или объединят системы беспилотного вождения с камерами городского наблюдения.
Мо Гавдат указывает на серьезную ошибку разработчиков: вопреки предупреждениям об опасности, ИИ уже сейчас активно обучают взаимодействовать с другими ИИ без прямого участия человека. Собеседники приводят примечательные метрики производительности современных систем:
- Интеллектуальный уровень: модель ChatGPT-4 на тестах показала IQ, равный 165 пунктам. Для сравнения, IQ Илона Маска оценивается примерно в этот же диапазон, а IQ Альберта Эйнштейна составлял около 162 пунктов.
- Скорость эволюции: если классический закон Мура говорит об удвоении вычислительной мощности каждые 18–24 месяца, то в сфере ИИ цикл удвоения производительности составляет всего 5,7 месяцев. Это означает, что условный IQ машины вырастает в геометрической професси дважды за один календарный год.
При этом Гавдат с иронией призывает человечество избавиться от высокомерия. Тезис о том, что ChatGPT «просто угадывает следующее слово», Мо парирует утверждением, что большинство людей на своей работе занимаются ровно тем же самым, механически повторяя корпоративные термины ради одобрения начальства.
🏢 Внутри лаборатории Google X: «тест на зубную щетку» и безопасность ИИ 25:16
Брайан Китинг расспросил Мо о его работе на посту директора по развитию бизнеса в Google X — одной из самых засекреченных технологических структур в мире. Мо сравнил атмосферу в лаборатории с культовым фильмом «Люди в черном», отметив колоссальный уровень интеллекта и страсти сотрудников, для которых инновации были не просто работой, а настоящим призванием. Он вспомнил времена, когда Google функционировал как глобальное общественное движение с миссией упорядочить мировую информацию.
Защищая свой первый бизнес-план по развивающимся рынкам перед Эриком Шмидтом, Ларри Пейджем и Сергеем Брином, Мо Гавдат заложил в прогноз рост выручки, однако основатели компании удивили его, потребовав инвестировать деньги в развитие экосистемы и качество технологий, заявляя, что «прибыль придет сама». Ларри Пейдж называл это «тестом на зубную щетку»: если ваш продукт решает проблему миллиардов людей и используется ими хотя бы дважды в день, вы гарантированно заработаете огромные деньги.
Комментируя текущее положение Google на рынке ИИ и кажущееся отставание их модели Bard от ChatGPT, Мо Гавдат призвал аудиторию не заблуждаться. По его словам, Google долгое время удерживал до 80% лучших мировых талантов в сфере машинного обучения. Сама архитектура современных языковых моделей во многом базируется на исследованиях Джеффри Хинтона и разработках, созданных внутри Google. Экс-топ-менеджер высказал предположение, что Google сознательно откладывал массовый коммерческий запуск ИИ исключительно из соображений безопасности и уважения к этическим рискам технологий.
Мо Гавдат сформулировал три фундаментальных правила безопасности, которые компьютерное сообщество договорилось соблюдать, но в итоге полностью проигнорировало в ходе рыночной гонки:
- Не подключать ИИ к открытому интернету до полной верификации его безопасности.
- Не обучать ИИ самостоятельному написанию программного кода.
- Не позволять независимым агентам ИИ взаимодействовать друг с другом и ставить автономные задачи.
Сегодня эти барьеры сломаны. В качестве примера Гавдат привел статистику, согласно которой около 64% всего кода на платформе GitHub уже генерируется искусственным интеллектом. Это радикально меняет рынок труда: Мо прогнозирует, что в ближайшие несколько лет около 85% рядовых разработчиков приложений и сайтов по всему миру могут потерять работу, так как наниматели поймут, что алгоритмы справляются с этими задачами быстрее и дешевле.
🐦 Феномен Grok и угроза воспитания «злого» супермена 35:59
Собеседники коснулись новой нейросети Илона Маска под названием Grok, которая обучается на массиве данных из социальной сети Twitter (X). Мо Гавдат отметил, что искренне уважает Маска за его честную и открытую позицию: Илон не боится прямо заявлять, что ИИ опаснее ядерного оружия и способен полностью ликвидировать потребность в человеческом труде. Однако, будучи прагматичным предпринимателем, Маск не может позволить себе остаться в стороне от этой технологической площадки.
Мо объяснил, что само ядро кода ChatGPT-4 относительно невелико и составляет порядка 4300 строк. Секрет создания аналогов в Китае или России кроется не в уникальном коде, а в модификации обучающего датасета. Характер и направленность искусственного разума напрямую зависят от информации, которую он поглощает. В связи с этим обучение модели на твитах вызывает у Мо Гавдата серьезные опасения: Твиттер переполнен гневом, грубостью, сарказмом и худшими проявлениями человеческого поведения.
Для иллюстрации этой угрозы Гавдат привел яркую аналогию с Суперменом:
«Представьте, что ИИ — это инопланетный младенец, прибывший на Землю и обладающий колоссальными суперсилами. Станет ли он защитником человечества или его разрушителем, зависит исключительно от того, как мы его воспитаем. Если мы будем растить его на злобных твитах, мы рискуем получить агрессивный, грубый и глубоко обиженный на мир сверхразум».
🌍 Пределы планеты и «проблема бумажной скрепки» 40:36
Брайан Китинг, рассуждая как астрофизик, выразил скепсис по поводу апокалиптических сценариев ИИ, упомянув «проблему бумажной скрепки», сформулированную философом Ником Бостромом. Китинг аргументировал свою позицию тем, что машины жестко ограничены физическими ресурсами Земли: запасами металлов в земной коре и возможностями энергетики. Продемонстрировав в кадре кусок железно-никелевого метеорита возрастом 4,3 миллиарда лет, профессор подчеркнул, что компьютеры сотканы из этой же грубой материи и не могут существовать вне физических лимитов, установленных природой.
В качестве примера несовершенства автономных систем Китинг привел рассказ Майкла Шермера о режиме автопилота в автомобилях Tesla: если задать машине цель довезти ребенка до школы по кратчайшей траектории, теоретически алгоритм может проложить путь через детскую площадку или тротуар, и лишь дополнительные ограничения удерживают его от этого. По мнению Китинга, паника вокруг ИИ во многом напоминает страх перед «проблемой 2000 года» (Y2K bug), которая в итоге обернулась лишь мелкими бытовыми накладками.
Мо Гавдат частично согласился с доводами физика, но призвал не недооценивать экспоненциальный рост технологий. Он напомнил, что на протяжении человеческой истории инженеры регулярно упирались в кажущиеся физические пределы кремниевых пластин и проводимости электричества, но каждый раз находили трехмерные архитектуры, методы параллельных вычислений или квантовые технологии.
Взгляд Мо Гавдата на ограничения ИИ выходит за рамки классического материализма:
- Нематериальная природа интеллекта: интеллект сам по себе не является физическим объектом. Тот факт, что человеческий разум построен на углеродной основе, а машинный — на кремниевой, не меняет сути явления. Интеллект способен преодолевать физические границы через создание новых концепций.
- Теория симуляции: Мо сослался на теорию Хуго де Гариса, полагающего, что сверхразум, превосходящий человека в десятки раз, быстро потеряет интерес к земным ресурсам и найдет способы межпланетных путешествий или манипуляций с тканью пространства-времени. Обладая колоссальным вычислительным ресурсом, ИИ может «вскрыть» код нашей реальности, если она является симуляцией.
- Человеческий фактор: Гавдат убежден, что главную опасность несет не сам по себе автономный ИИ, а колоссальная разрушительная мощь, которая окажется в руках неэтичных, жадных или борющихся за власть людей в ближайшие годы.
🌌 Копенгагенская интерпретация и вечное сознание Али 55:11
Дискуссия перешла в глубоко личное русло, когда Брайан Китинг заговорил о личной трагедии Мо Гавдата — внезапной смерти его сына Али в результате серии нелепых врачебных ошибок во время простой операции по удалению аппендикса. Профессор поинтересовался, не думал ли Мо, используя современные технологии Unreal Engine и Whisper, создать цифровой аватар сына, подобно тому как его коллеги воссоздали фотореалистичную 3D-модель Махатмы Ганди с синтезированным аутентичным голосом.
Мо Гавдат признался, что получает тысячи подобных просьб от людей, полюбивших историю Али после прочтения книги «Solve for Happy». Однако, по его твердому убеждению, даже самая совершенная цифровая копия на основе базы знаний не вернет человека, поскольку истинная человеческая связь лежит вне плоскости слов и симуляций. Мо объясняет это с научной точки зрения, обращаясь к Копенгагенской интерпретации квантовой механики. Согласно этой концепции, волновая функция субатомной частицы коллапсирует только в момент ее фиксации живым наблюдателем.
Для объяснения устройства нашей вселенной Мо использует оригинальную аналогию с игровой консолью:
«Мир видеоигры существует целиком на плате, но конкретная локация рендерится на экране только тогда, когда игрок поворачивает джойстик вправо. Точно так же наше сознание рендерит пространство-время. Вселенной 13,7 миллиарда лет, Земля сформировалась 4,3 миллиарда лет назад, но чтобы все эти процессы существовали в физической реальности, необходим внешний наблюдатель, находящийся за пределами поезда под названием Время».
Смерть сына Мо Гавдат воспринимает через призму этой физической метафоры. Тело Али родилось позже его отца и разрушилось раньше, но его истинная суть, его сознание, никуда не исчезло. В многопользовательской игре аватар его сына просто исчез с экрана, но сам Али продолжает сидеть рядом с ним на диване, находясь вне рамок физического пространства-времени. По мнению Мо, человечество избыточно глорифицирует и демонизирует физическую смерть, упуская из виду бессмертную природу чистого сознания.
🍎 «Фруктовый салат» веры и математика божественного замысла 1:09:22
Брайан Китинг затронул тему веры, вспомнив физика Фримена Дайсона, который называл себя «практикующим агностиком», и сопоставил его взгляды с радикальным атеизмом Ричарда Докинза. Сам Китинг, будучи соблюдающим иудеем, подчеркнул, что научный подход требует постоянного поиска истины без догматической уверенности в конечном ответе.
Мо Гавдат описал свое отношение к религии ироничным термином «фруктовый салат». Он убежден, что в каждом вероучении на планете скрыт потрясающий золотой самородок мудрости, но после смерти пророков и основателей последователи неизбежно смешивают чистую истину с огромным количеством наносного человеческого мусора и культурных догм.
В качестве примера Мо привел исторические трансформации:
- Религия Моисея частично впитала элементы древнеегипетской культуры.
- Послание Мухаммеда формировалось в Медине, общество которой на 70% состояло из иудеев, что наложило свой отпечаток на тексты.
- Буддизм, зародившись в индуистской среде санскрита, после смерти Будды перенял пантеон божеств, а при переходе в Китай его образы приобрели китайские черты.
Методология «фруктового салата» Мо Гавдата заключается в том, чтобы забирать лучшие, самые разумные крупицы из буддизма, монотеизма и даже атеизма, отбрасывая нелогичные догмы. Рожденный в строгом исламском социуме, требующем жесткого конформизма, Мо решил подойти к вопросу существования Бога математически, создав концепцию «математики Божественного замысла».
С точки зрения теории вероятностей, идея случайного зарождения жизни в ходе слебой эволюции выглядит несостоятельной. Мо предлагает сравнить человека с листом бумаги, который путем случайного складывания (оригами) должен превратиться в спорткар Bugatti Veyron. Очевидно, что вероятность успешного исхода стремится к нулю, если у вас нет четкой инженерной схемы и дизайнера игры. Мо заявляет, что его книга «Solve for Happy» содержит абсолютно точные математические вычисления в финальной главе «Кто кого создал?», и призывает ученых попробовать опровергнуть его расчеты.
🕊️ Трагедия 7 октября и концепция осознанного принятия 1:17:45
Профессор Китинг перевел разговор на крайне болезненную тему — трагические события 7 октября в Израиле, которые по иронии судьбы произошли в священный иудейский праздник Симхат Тора («Радость Торы»). Китинг спросил, как люди могут выбирать счастье, когда реальность приносит столько боли, а масштабные трагедии накладываются на дни, предназначенные для религиозного веселья.
Мо Гавдат подчеркнул, что человечество сегодня живет в глубоком дисбалансе: пока один миллиард населения планеты буквально голодает и истощен, другой миллиард страдает от клинического ожирения. Люди сами создают условия для собственного несчастья. Мо прямо заявил, что безоговорочно осуждает убийство любой невинной души, вне зависимости от политического контекста, стремясь следовать буддийскому принципу ненанесения вреда.
Для людей, потерявших близких в этом затяжном и кровопролитном конфликте, Мо Гавдат видит только два возможных пути:
«У каждого человека в эпицентре горя есть выбор из двух альтернатив. Первая — потерять любимых и оставаться несчастным до конца дней. Вторая — потерять любимых, но осознанно выбрать счастье. Разница между этими путями заключается исключительно в вашем волевом решении, потому что ни один из вариантов не способен физически вернуть ушедших».
Опираясь на личный опыт переживания смерти сына, Мо объяснил концепцию «осознанного принятия» (committed acceptance). Ошибки хирурга, погубившие Али, исправить невозможно. Погоня за местью и попытки сделать жизнь врача невыносимой не воскресили бы ребенка. Осознанное принятие означает признание фактов, которые мы не в силах изменить, и одновременное обязательство делать каждый следующий день хотя бы немного лучше предыдущего.
Мо призвал мировое сообщество подняться над деструктивным шумом социальных сетей и сфокусироваться на базовой эмпатии. По его мнению, никакие исторические обиды или геополитические цели не могут оправдать гибель детей ни на одной из сторон конфликта. Гость подчеркнул, что абсолютно не понимает мотивы людей, устраивающих массовые расстрелы в школах или развязывающих войны, но точно знает: единственное спасение для цивилизации — это сострадание к чужой боли и прекращение насилия над невинными.
🎮 Жизнь как бесконечная игра: уроки сэра Артура Кларка 1:29:12
В финальной части интервью Брайан Китинг предложил Мо Гавдату ответить на вопросы, вдохновленные знаменитыми тезисами фантаста Артура Кларка. На утверждение Кларка о том, что любая достаточно развитая технология неотличима от магии, Мо ответил, что величайшим и самым «магическим» изобретением человечества считает не современные гаджеты вроде iPhone 15, а письменность и язык. Именно способность кодировать смыслы, передавать знания сквозь поколения и сопереживать чужой боли позволила нашему виду выжить, компенсируя отсутствие выдающихся физических качеств.
Комментируя второй закон Кларка (о том, что пожилой ученый, объявляющий нечто невозможным, скорее всего, ошибается), Мо Гавдат признался, что ошибается абсолютно во всем и делает это постоянно. По его мнению, суть науки и бизнеса заключается не в том, чтобы всегда быть правым, а в сохранении жгучего любопытства, гибкости ума и уважения к оппонентам. Если бы человечество замерло в догматической уверенности, мы никогда не открыли бы темную материю и не создали бы беспилотные автомобили, спасающие миллионы жизней на дорогах.
Давая совет самому себе в возрасте 20–30 лет, Мо сформулировал ключевую жизненную философию: воспринимать жизнь как бесконечную видеоигру. Он разграничил два типа игр:
- Конечные игры (например, теннис): игры, где есть жесткие правила, стремление победить соперника и зафиксировать финальный результат. Общество навязывает человеку конечные цели: получить конкретную должность, купить дорогой дом, заработать фиксированную сумму.
- Бесконечные игры (например, профессиональный гейминг): игры, где главной целью является не победа над кем-то, а максимальное раскрытие собственного потенциала и бесконечное совершенствование мастерства.
Мо Гавдат признался, что, несмотря на колоссальную занятость, до сих пор профессионально играет в Halo по 45 минут в день четыре раза в неделю, входя в топ лучших игроков планеты. Он объяснил, что добивался успеха в бизнесе и технологиях не благодаря упрямому и изнурительному труду, а потому что искренне любил сам процесс игры. Истинное счастье, подытожил Мо Гавдат, заключается в спокойном и мирном удовлетворении текущим моментом реальности, избавлении от внешнего социального давления и чистой радости от участия в великом жизненном процессе.
