Миллионы агентов вместо одного бога: новая стратегия Meta

«Ваша способность создавать что-то новое зависит от готовности снова опозориться и выглядеть глупо», — утверждает Марк Цукерберг, объясняя, почему глава Meta выходит на ковер в турнирах по джиу-джитсу под псевдонимом. За этой философией «вечного новичка» стоит радикальная трансформация корпорации: отказ от восьми уровней менеджмента, ставка на открытый код и видение будущего, где вместо одного всесильного ИИ-бога миллионы персональных агентов помогают людям преодолевать барьеры в общении.

🥋 Боевые искусства и философия «разума новичка» 0:28

Разговор Лекса Фридмана с Марком Цукербергом начался с обсуждения неожиданного увлечения главы Meta — джиу-джитсу. Для Цукерберга это не просто хобби, а фундаментальный инструмент поддержания ментального здоровья и фокуса . Марк признаётся, что он — крайне соревновательный человек, и спорт, требующий 100% концентрации, помогает ему переключаться от управления глобальной корпорацией.

На свой первый турнир Цукерберг пришёл инкогнито: в кепке, солнцезащитных очках и маске, зарегистрировавшись под своим вторым именем «Марк Эллиот» . Этот поступок продиктован не только желанием избежать лишнего внимания, но и готовностью столкнуться с первобытным страхом поражения. В джиу-джитсу, которое Марк называет «человеческими шахматами», нет места гордыне. Ты либо признаёшь поражение, похлопав по мату, либо рискуешь получить травму .

По мнению Цукерберга, секрет долгосрочного успеха заключается в готовности снова и снова становиться новичком. «Ваша способность продолжать делать интересные вещи зависит от готовности снова опозориться, вернуться на первый шаг, быть избитым и выглядеть глупо» . Этот подход «разума новичка» Марк транслирует и на управление Meta: компания предпочитает выпускать продукты на ранней стадии, получать обратную связь и дорабатывать их, не боясь критики за несовершенство . В джиу-джитсу Цукерберг предпочитает стиль «No-Gi» (без кимоно), который ближе к MMA, и делает ставку на давление и контроль сверху, хотя, будучи не самым крупным бойцом, часто полагается на техничный захват спины .

Культура принятия решений в Meta: через конфликты к интуиции 5:16

Несмотря на масштаб компании, управляющей Facebook, Instagram и WhatsApp, самым стрессовым фактором для Марка остаются не вопросы стратегии, а человеческие взаимоотношения. «Вопросы стратегии не держат меня в напряжении по ночам — я обычно уверен в наших ценностях. Но когда в команде возникает напряжение — это действительно тяжело» .

Цукерберг тратит непропорционально много времени на формирование сплочённого ядра топ-менеджмента. Процесс принятия решений в Meta выстроен вокруг еженедельных встреч по понедельникам, где собираются около 30 ключевых руководителей . Это не формальные отчёты, а зачастую неструктурированные и «довольно конфликтные» дискуссии . На таких встречах обсуждается всё: от политики компании в конкретных странах до тонких дизайнерских компромиссов в WhatsApp.

Цель этих «битв» — не просто выбрать вариант А или Б, а выработать у команды общую интуицию. Марк верит, что через открытое обсуждение сложных проблем люди учатся понимать логику друг друга, что создаёт необходимую сплочённость. В этом он видит прямую аналогию со спортом: как и в джиу-джитсу, в бизнесе важно понимать, где нужно проявить «грит» (стойкость) и продавить решение, а где необходима гибкость и понимание того, что стену не прошибить лбом .

Прорыв Llama: почему Meta выбирает открытый ИИ 18:14

Обсуждая текущий бум искусственного интеллекта, Марк Цукерберг подчеркнул, что Meta придерживается «академического» и открытого подхода к разработке ИИ. Выпуск языковой модели Llama стал важным прецедентом в индустрии. Марк объясняет эту стратегию двумя прагматичными причинами:

Привлечение талантов: Лучшие исследователи мира хотят иметь возможность открыто делиться своей работой и получать признание в научном сообществе .
Эффективность инфраструктуры: Открывая свои наработки (как это было ранее с Open Compute Project), Meta позволяет сообществу оптимизировать технологию.

Релиз первой версии Llama с 65 миллиардами параметров был ограниченным и предназначался для исследователей, однако «утечка» модели в широкий доступ привела к взрывному росту инноваций . Энтузиасты создали версии, способные работать на обычных ноутбуках (Llama.cpp), и разработали новые методы тонкой настройки, такие как Alpaca .

Цукерберг признаёт, что Llama 1 на момент выхода не была «фронтирной» моделью в сравнении с GPT-4 от OpenAI или PaLM от Google, которые, по его оценкам, в 10 раз больше по количеству параметров . Однако он считает, что на текущем этапе развития, когда ИИ — это ещё базовый инструмент, а не «сверхчеловеческий разум», польза от открытости и общественного аудита безопасности перевешивает риски . Ранее в разговоре они также вскользь касались темы интеграции ИИ в социальные продукты компании, но детально это будет разобрано в следующих главах.

🌍 Глобальный перевод и децентрализация интеллекта 25:04

В развитии искусственного интеллекта Марк Цукерберг видит не просто создание «умного чат-бота», а фундаментальную смену парадигмы того, как люди общаются, ведут бизнес и взаимодействуют с цифровым миром. Пока конкуренты стремятся к созданию единого сверхразума, стратегия Meta строится на двух столпах: разрушении языковых барьеров для миллиардов людей и создании экосистемы из миллионов специализированных ИИ-агентов.

Универсальный переводчик: 1100 языков и конец языковых барьеров 29:37

Одним из самых амбициозных технологических достижений Meta за последнее время стал прорыв в области машинного перевода. Марк Цукерберг отмечает, что компания перешла от поддержки 100 языков к модели, способной переводить более чем на 1100 языков . Более того, система способна идентифицировать свыше 4000 различных наречий, что в 40 раз превышает возможности любых предыдущих технологий .

Для Цукерберга это не просто упражнение в инженерии, а реализация классической научно-фантастической идеи. Он описывает будущее, где наушники или очки дополненной реальности обеспечивают мгновенный перевод в реальном времени, стирая границы между культурами . В отличие от закрытых систем, Meta рассматривает этот инструмент как часть общей инфраструктуры, которая со временем станет такой же базовой и полезной, как когда-то стали открытые проекты вроде Memcache .

Такой масштабный охват языков критически важен для миссии компании по объединению мира. По словам Марка, возможность выражать себя на родном языке и быть понятым в любой точке планеты — это мощнейший инструмент инклюзивности, который технология наконец-то начинает предоставлять в полной мере .

Концепция «Множества ИИ» против единого супер-интеллекта 43:10

Ключевое отличие видения Марка Цукерберга от стратегий OpenAI, Google или Microsoft заключается в отказе от идеи «единого ИИ». В то время как мир обсуждает ChatGPT или Bard как универсальных оракулов, Цукерберг убежден: людям не нужен один-единственный «цифровой бог» .

Марк выделяет три основные категории ИИ-агентов, которые станут частью повседневности:

ИИ-помощники для авторов контента: Каждый создатель (криэйтор) в Instagram или Facebook со временем захочет иметь собственного ИИ-агента, который станет его цифровым представителем . Поскольку у человека всего 24 часа в сутках, такой агент сможет взаимодействовать с сообществом фанатов, передавать информацию о концертах или транслировать личность автора, когда тот офлайн .
ИИ для малого бизнеса: Марк считает, что каждому малому бизнесу нужен свой ИИ для коммерции и поддержки клиентов . При этом бизнесмену важно, чтобы его ИИ был лоялен: «Вы не хотите, чтобы ваш агент рекомендовал товары конкурентов», — подчеркивает он .
Персонализированные ассистенты: Вместо одного чат-бота пользователи будут взаимодействовать с множеством сущностей, каждая из которых выполняет свою роль, подобно тому как в жизни мы обращаемся к разным людям за разными советами .

Лекс Фридман уточняет, что такой подход требует колоссальной работы по персонализации и тонкой настройке моделей (fine-tuning). Цукерберг соглашается, отмечая, что Llama станет «двигателем», на базе которого вырастет всё это многообразие . Ранее в разговоре они уже касались темы открытости Llama, и здесь Марк подтверждает: открытый код позволяет сообществу находить лучшие «рецепты» данных и делать модели безопаснее .

Википедия для ИИ: краудсорсинг обучения и новые интерфейсы 35:05

В поисках путей совершенствования моделей Ян Лекун предложил Марку идею, которую тот обсуждает с Лексом: возможно ли обучать и выравнивать (align) ИИ по принципу Википедии? . Это подразумевает создание совместной, общественной среды для тонкой настройки моделей, где сообщество коллективно определяет, что является истиной и благом.

Цукерберг находит эту мысль привлекательной, хотя и признает сложность модерации такой системы . Главная проблема современных LLM — их способность говорить убедительно, но ошибочно . Краудсорсинговый подход мог бы помочь ИИ генерировать «мудрость и знание», а не просто статистически вероятный текст .

Параллельно с этим Meta внедряет ИИ в свои ключевые продукты, меняя сам способ взаимодействия с ними:

Генеративное творчество: Фотографии в Instagram можно будет редактировать, просто описывая изменения словами .
Автоматизация рекламы: Рекламодателям больше не нужно будет вручную создавать креативы. Достаточно сказать: «Я выгуливаю собак, найди мне подходящих клиентов», и система сама создаст оптимальное объявление и проведет A-B тесты .
Создание миров в Метавселенной: В будущем пользователи смогут создавать цифровые пространства, просто описывая их голосом — ИИ сам напишет необходимый код .

Естественный язык становится универсальным интерфейсом . Для Цукерберга это не вопрос отдаленного будущего — это трансформация, которая происходит прямо сейчас и затронет три миллиарда пользователей WhatsApp, Facebook и Instagram .

🤖 Социальный клей: ИИ как посредник в общении и щит против ботов 50:13

В эпоху, когда социальные связи становятся всё более цифровыми, Марк Цукерберг видит в искусственном интеллекте не просто инструмент автоматизации, а глубоко интегрированного «социального помощника». По его мнению, ИИ способен заполнить пустоту в коммуникации, помогая людям лучше выражать свои чувства и поддерживать дружеские отношения в мире, где, согласно исследованиям, у среднего человека сегодня меньше близких друзей, чем 15 лет назад .

Искусственный интеллект как «социальный переводчик» и коуч 50:13

Марк Цукерберг подчеркивает, что интерфейсы мессенджеров, таких как WhatsApp и Messenger, являются идеальной средой для интеграции ИИ-ассистентов. Он выделяет несколько ключевых ролей, которые такие системы могут играть в жизни пользователя:

Социальный ассистент: Вместо стандартных уведомлений о днях рождения, ИИ сможет напоминать, чем живет ваш друг, и помогать сформулировать искреннее, персонализированное сообщение .
Ментор и лайф-коуч: ИИ может выступать в роли «черлидера», помогая справляться с ежедневными трудностями и давая советы в моменты уныния .
Образовательный тьютор: На примере своих детей Марк Цукерберг описывает ИИ, который обучает программированию, проявляя безграничное терпение и адаптируясь под уровень понимания ребенка .

Лекс Фридман выразил опасение, что делегирование общения чат-ботам может привести к деградации социальных навыков и тому, что через поколение люди будут общаться «хрюканьем» . Однако Марк Цукерберг настроен оптимистично. Он считает, что язык сам по себе — несовершенный способ передачи мыслей, а ИИ выступает лишь как средство более точного самовыражения .

В качестве примера он приводит историю инструктора по джиу-джитсу, который использовал языковую модель, чтобы перефразировать свои резкие письма родителям учеников в более вежливые и конструктивные сообщения . Подобные инструменты крайне важны и для создателей контента, которым часто трудно вести формальные переговоры с брендами в личных сообщениях . ИИ здесь выступает не как замена человека, а как фильтр, убирающий гордость, страх или косноязычие, мешающие нормальному контакту.

Противостояние неаутентичному поведению и сетям ботов 1:06:49

Обратной стороной развития технологий является рост сложности угроз. Марк Цукерберг признает, что современные социальные сети — это поле постоянной битвы с «организованными сетями ботов» и государственными структурами, использующими ИИ для манипуляций. В Meta сформировано целое подразделение, которое по своей сути является контртеррористической организацией .

Компания выделяет 18 категорий вредоносного контента — от эксплуатации детей до пропаганды терроризма — для каждой из которых созданы специфические системы классификации . Ключевой концепцией в этой борьбе является CIB (Coordinated Inauthentic Behavior) — скоординированное неаутентичное поведение .

Основные тезисы Марка Цукерберга о безопасности:

Экономика противодействия: Главная цель Meta — сделать атаки настолько дорогими и неэффективными, чтобы злоумышленникам (например, из России или других стран) было проще уйти на другие платформы .
Классический ИИ против Генеративного: Для обнаружения ботов Meta использует мощные классические системы классификации, которые пока справляются с защитой от генеративного ИИ .
Обучение безопасности (Alignment): При выпуске своих моделей Meta проводит тонкую настройку (fine-tuning), чтобы ИИ нельзя было использовать для планирования преступлений или обхода систем безопасности самой платформы .

Особую сложность представляет борьба с дезинформацией. Марк Цукерберг признает, что во время пандемии COVID-19 «истеблишмент» часто требовал цензуры мнений, которые позже оказывались вполне обоснованными или спорными, что серьезно подорвало доверие к институтам модерации . Он настаивает на том, что ИИ должен быть обучен признавать нюансы и сложность тем, где нет единого научного консенсуса, вместо того чтобы просто удалять сообщения .

Ранее в разговоре собеседники упоминали идею открытости ИИ и видение будущего с множеством специализированных моделей, что перекликается с текущим обсуждением ИИ как персонального ассистента, адаптированного под нужды конкретного человека.

🛡️ Дилемма модерации и архитектура свободы: новые горизонты Meta 1:15:38

В современном цифровом пространстве вопросы цензуры и защиты данных перестали быть чисто техническими задачами, превратившись в сложнейшие социальные и политические дилеммы. В разговоре с Лексом Фридманом Марк Цукерберг подробно остановился на том, как Meta маневрирует между требованиями государств и правом пользователей на приватность, а также анонсировал новый амбициозный проект в сегменте текстовых коммуникаций.

Сложности модерации и уроки пандемии 1:15:38

Марк Цукерберг признает, что за последние годы подход компании к модерации стал гораздо более нюансированным. Главным ориентиром для Meta сегодня является предотвращение реального физического вреда . Однако на практике провести грань между опасной дезинформацией и личным мнением крайне сложно, особенно в таких волатильных темах, как пандемия COVID-19.

Цукерберг отмечает, что во время пандемии давление со стороны различных государственных структур и общественных групп было беспрецедентным. Это давление часто приводило к решениям, которые впоследствии подрывали доверие пользователей. Одной из главных проблем он называет природу науки: «Ничто никогда не известно на 100% наверняка. Вы можете опровергнуть определенные вещи, но вы постоянно открываете новое» . Когда политические предпочтения начинают диктовать, какая научная гипотеза является «истинной», а какая — «вредной», социальные сети оказываются в эпицентре конфликта.

Чтобы минимизировать негатив, Meta внедряет инструменты, позволяющие пользователям самим настраивать уровень фильтрации контента. Например, пользователи могут отключить отображение плашек от фактчекеров, если они им не доверяют . При этом сохраняются жесткие запреты на контент, призывающий к насилию или нарушающий закон.

Интересен и подход к ИИ-модерации. Вместо резкого блокирования спорных запросов, Марк предлагает «информативный» путь. В качестве примера он приводит запрос о 3D-печати оружия: вместо сухого отказа ИИ должен объяснить юридические и этические риски такого шага, предполагая у пользователя добрые намерения . Это помогает создать более уважительную среду, не превращая платформу в стерильную зону тотальных запретов.

Защита данных: «Люди с оружием» и суверенитет серверов 1:18:54

Вопрос давления властей на Meta не ограничивается требованиями удалить тот или иной пост. Гораздо более серьезной угрозой Цукерберг считает попытки государств получить прямой доступ к данным граждан. Он разделяет страны на демократические, чьим законам компания старается соответствовать из уважения к воле избирателей, и авторитарные, где лидеры используют контроль над информацией для подавления диссидентов .

Защита приватности начинается не в суде, а на этапе проектирования инфраструктуры. Марк подчеркивает важность архитектурных решений:

Meta принципиально не строит дата-центры в странах, имеющих историю нарушений прав человека и попыток незаконного доступа к данным .
Это решение принимается за годы до возможных конфликтов, так как физическое присутствие серверов в стране делает их уязвимыми. «В конце концов, если вы размещаете дата-центр в стране, у правительства есть возможность отправить людей с оружием и забрать данные силой» .
Компания готова идти на ухудшение качества связи (увеличение задержки/latency) для пользователей в определенных регионах, чтобы гарантировать их безопасность.

Обсуждая «Файлы Twitter» и давление американских спецслужб, таких как ФБР или ЦРУ, Цукерберг отметил, что Meta постоянно получает предупреждения о внешних угрозах. Однако он настаивает на том, что финальное решение всегда остается за компанией . Давление со стороны политических партий и медиа настолько огромно и многовекторно, что пытаться угодить всем бессмысленно — нужно просто придерживаться установленного баланса .

Проект P92: новая эра децентрализованных текстов 1:33:29

Одной из самых интригующих тем беседы стало подтверждение разработки новой текстовой социальной сети под кодовым названием P92 (позже ставшей известной как Threads). Марк Цукерберг убежден, что рынок текстовых «информационных утилит» обладает огромным потенциалом, который до сих пор не реализован в полной мере. По его мнению, сервис такого формата должен охватывать миллиард пользователей .

Текст как формат уникален своей доступностью и скоростью обмена идеями. В отличие от TikTok или Instagram, где комментарии вторичны по отношению к видео или фото, в новом проекте Meta текстовые ветки обсуждений становятся «гражданами первого класса» .

Ключевые особенности концепции P92:

Децентрализация и федеративность: Марк выразил интерес к опыту Mastodon и Blue Sky, изучая возможность создания более открытого стека технологий .
Интеграция с Instagram: Новая сеть будет опираться на уже существующую систему идентификации и социальный граф Instagram, что обеспечит легкий старт для пользователей .
Перенос опыта WhatsApp: Использование принципов сквозного шифрования (end-to-end encryption) рассматривается как способ передать больше власти в руки отдельных пользователей, делая центральный сервер «тонким» посредником, а не тотальным контролером .

Ранее в разговоре Лекс и Марк касались темы ИИ-агентов, и Цукерберг видит в текстовой сети идеальную среду для их взаимодействия с людьми, где идеи могут фильтроваться и разветвляться в бесконечных дискуссиях . Хотя точная дата запуска на момент интервью не была названа, Марк подтвердил, что Meta активно ищет способ сделать текстовое общение более продуктивным и масштабным, чем это удавалось кому-либо ранее.

🚀 Реформы и эффективность: от Twitter до «Года эффективности» в Meta 1:40:32

Обсуждая текущее состояние технологической индустрии, Марк Цукерберг и Лекс Фридман затронули тему радикальных изменений в управлении крупными компаниями. Значительная часть разговора была посвящена тому, как меняются подходы к структуре организаций и почему «компактность» стала новым стандартом качества в Кремниевой долине.

Оценка реформ Илона Маска в Twitter 1:40:32

Марк Цукерберг отметил, что со стороны всегда сложно давать конкретную критику, не видя внутренних нюансов управления . Тем не менее, он выразил симпатию к определенным векторам, которые задал Илон Маск после приобретения Twitter. Цукерберг считает, что Маск предпринял важную попытку сделать организацию более технической и компактной .

По мнению главы Meta, это стало полезным трендом для всей индустрии. «Многие руководители, вероятно, думали о подобных изменениях, но, возможно, немного стеснялись их проводить», — подчеркнул Цукерберг . Действия Маска в этом контексте послужили своего рода ледоколом. Основная идея заключается в том, что компании могут работать эффективнее, если они меньше сфокусированы на раздутых штатах и больше — на качестве инженерной мысли . Это не просто вопрос экономии денег, а вопрос создания среды, где технические специалисты имеют больший вес и влияние на конечный продукт.

«Год эффективности» и философия плоской структуры 1:44:19

Для самой Meta 2023 год стал «Годом эффективности». Массовые сокращения, по признанию Цукерберга, были одним из самых сложных решений в его карьере . Он пояснил, что эти меры были продиктованы не только финансовой необходимостью или макроэкономической волатильностью, но и стремлением превратить Meta в более «плоскую» организацию .

Марк выделил несколько ключевых аспектов этой трансформации:

Устранение уровней управления. В какой-то момент в Meta было до восьми уровней менеджмента между генеральным директором и стажером . Цукерберг считает, что каждый лишний слой увеличивает задержку передачи информации и размывает ответственность.
Увеличение «рациона управления» (span of control). Марк был удивлен, узнав, что в некоторых отделах на одного менеджера приходилось всего 3–4 подчиненных . Оптимальная модель, по его мнению, предполагает, что менеджер должен руководить большим количеством людей, чтобы не превращаться в микроменеджера.
Приоритет техническим командам. Цель реформ — сделать так, чтобы люди, которые непосредственно «строят вещи» (инженеры, дизайнеры), составляли основную массу компании .

В контексте найма Цукерберг поделился своим «золотым правилом»: он нанимает человека на руководящую позицию только в том случае, если в альтернативной вселенной он сам был бы счастлив работать на этого человека . Он также упомянул важность стажировок как «сортировочной функции», позволяющей понять возможности человека в реальной работе, что гораздо эффективнее любого интервью . Ранее в разговоре они уже касались темы принятия сложных решений, и текущие реформы стали логическим продолжением этой философии.

Quest 3 и демократизация смешанной реальности 1:57:46

Завершая обсуждение организационных перемен, беседа перешла к их материальному воплощению — новым продуктам. Цукерберг подробно остановился на гарнитуре Quest 3, цена которой была установлена на уровне 500 долларов . Это стратегическое решение: Meta стремится сделать технологии дополненной и виртуальной реальности доступными для широких масс, а не только для «состоятельной аудитории» .

Основной инновацией Quest 3 стала полноценная смешанная реальность (Mixed Reality) с высоким разрешением. Устройство позволяет видеть окружающий мир через камеры, накладывая на него цифровые объекты . Цукерберг привел пример с занятиями боксом: в смешанной реальности вы видите своего виртуального тренера или противника, но при этом продолжаете видеть стены своей комнаты, что делает опыт безопаснее и комфортнее .

Технические характеристики устройства значительно выросли:

Корпус стал на 40% тоньше по сравнению с Quest 2 .
Графическая мощность процессора увеличилась в два раза .
Дисплеи стали на 40% четче .

Цукерберг также прокомментировал выход Apple на этот рынок с их Vision Pro за 3500 долларов. Он воспринял это как «валидацию категории» . Присутствие Apple подтверждает, что смешанная реальность станет следующей большой вычислительной платформой, однако подход Meta остается верным идее массовой доступности и социального взаимодействия.

🌐 Демократизация технологий и природа сверхинтеллекта 2:05:32

Обсуждение будущего технологий неизбежно приводит к столкновению двух полярных философий развития. Пока одни компании стремятся к созданию элитарных продуктов «совершенного качества», другие делают ставку на массовость и социальное взаимодействие. В разговоре с Лексом Фридманом Марк Цукерберг подробно объясняет, почему стратегия Meta фундаментально отличается от подхода Apple, и как его видение искусственного интеллекта (ИИ) связано с концепцией уже существующих «коллективных организмов», таких как фондовый рынок или крупные корпорации.

Социальная активность против пассивного потребления: Meta vs. Apple 2:05:44

Марк Цукерберг подчеркивает, что различия между гарнитурами дополненной и виртуальной реальности от Meta и Apple продиктованы не просто техническими компромиссами, а разным видением того, как люди должны использовать технологии. В то время как Apple ориентируется на предоставление премиального опыта с максимально четким текстом и разрешением, что приводит к созданию устройств стоимостью в 3500 долларов , Meta придерживается «демократичного этоса». Цель Марка — сделать технологии доступными для каждого, что отражается в цене Quest 3 на уровне 500 долларов .

Основные расхождения в стратегиях:

Цель использования: Apple фокусируется на потреблении контента и работе (чтение текста, просмотр видео), тогда как Meta — на социальном взаимодействии и коммуникации .
Механика взаимодействия: Устройства Apple полагаются на отслеживание взгляда и жесты рук. Meta же настаивает на важности физических контроллеров для активных игр, утверждая, что тактильная отдача и точность движений в пространстве незаменимы для глубокого погружения .
Мобильность: Meta стремится к тому, чтобы пользователи могли активно двигаться, играть и взаимодействовать друг с другом, в противовес более «сидячему» и пассивному опыту, который предлагает конкурент .

Как отмечалось ранее в разговоре при обсуждении Quest 3, для Цукерберга важно, чтобы устройство не просто заменяло экран телевизора, а создавало ощущение физического присутствия другого человека рядом .

Экзистенциальный риск: интеллект против автономии 2:10:51

В ответ на вопросы Лекса Фридмана об экзистенциальных угрозах ИИ, которые часто поднимают такие фигуры, как Илон Маск, Марк Цукерберг предлагает концептуально разделять понятия «интеллект» и «автономия». Он считает, что общественная дискуссия часто смешивает эти вещи в одну кучу, создавая ложное ощущение неминуемой катастрофы .

Марк выдвигает тезис, что высокий уровень интеллекта сам по себе не означает наличия у системы воли, целей или стремления к самосохранению. В качестве аналогии он приводит устройство человеческого мозга: наш неокортекс (центр сложного мышления) не обладает собственными базовыми инстинктами, он лишь служит мощным инструментом для более примитивных отделов мозга, отвечающих за выживание . По мнению Цукерберга, мы можем создать ИИ, который будет невероятно умным «инструментальным неокортексом», но при этом полностью лишенным биологических драйверов агрессии или доминирования.

Реальную опасность, по мнению Марка, представляет именно «автономия» — способность системы к неконтролируемому самораспространению. Он сравнивает такой сценарий с вирусом . Ключевая задача безопасности — развить интеллект системы достаточно далеко, чтобы она могла приносить пользу, прежде чем (и если вообще) ей будет передана какая-либо значимая автономия в принятии решений .

Открытость как механизм безопасности 2:17:31

Продолжая тему безопасности, Марк возвращается к философии открытого исходного кода (которую он ранее упоминал в контексте выпуска Llama). Он убежден, что мир, в котором технология ИИ доступна многим, гораздо безопаснее, чем мир с «униполярным» развитием, где одна сверхмощная система находится в руках узкой группы лиц . Открытость позволяет:

Обеспечить массовую проверку кода на наличие уязвимостей .
Предотвратить концентрацию чрезмерной власти в одних руках .
Создать более сбалансированное распределение выгод от технологии .

Цукерберг признает, что по мере приближения к уровню сверхинтеллекта дебаты об открытости станут сложнее, но на текущем этапе он «абсолютно уверен», что открытые модели являются чистым благом для общества .

Компании и рынки как кибернетические системы 2:24:34

Когда Лекс Фридман спрашивает о сроках появления общего искусственного интеллекта (AGI) , Цукерберг отвечает, что в некотором смысле сверхинтеллектуальные сущности уже существуют. Он называет их «кибернетическими системами» или структурами, которые умнее любого отдельного человека.

Корпорации: Марк надеется, что Meta, состоящая из десятков тысяч людей, принимает более умные решения, чем мог бы принять один человек . Это сложный организм, перерабатывающий информацию на уровне, недоступном индивиду.
Фондовый рынок: Это еще более яркий пример. Рынок — это огромная структура, которая собирает сигналы со всего мира и распределяет капитал эффективнее, чем любой гениальный инвестор в одиночку .

С этой точки зрения, ИИ — это не «пришелец», который внезапно захватит мир, а следующий шаг в развитии этих коллективных систем . Он сделает компании эффективнее, а людей — лучше информированными. Марк настроен оптимистично: прогресс ИИ будет происходить в «человеческом темпе», так как системы обучаются на обратной связи от людей и глубоко интегрированы в наши социальные и экономические процессы .

🧬 Физическая реальность, цифровое наследие и вера в созидание 2:30:38

Завершающая часть беседы между Лексом Фридманом (Lex Fridman) и Марком Цукербергом (Mark Zuckerberg) уходит от обсуждения алгоритмов и бизнес-стратегий в сторону глубоких философских размышлений. В центре внимания оказываются вопросы о том, что делает человека человеком, как мы распоряжаемся своим цифровым «я» после смерти и почему акт творения является для основателя Meta главной жизненной ценностью.

Телесность и воспитание: почему мы — это не только разум 2:30:50

Для Марка Цукерберга физическое состояние неразрывно связано с когнитивными способностями и личной эффективностью. Несмотря на плотный график, он старается уделять время физической активности каждый день . Его тренировочный режим включает занятия джиу-джитсу и MMA три-четыре раза в неделю, а в остальные дни — кардио, силовые упражнения и тренировки на мобильность . Марк признается, что ему крайне тяжело долго сидеть на одном месте: «Я чувствую, как тело становится зажатым, это неприятное ощущение» . Именно поэтому в новом здании штаб-квартиры Meta на крыше был разбит парк, где он проводит встречи в формате прогулок .

Эта приверженность спорту выходит за рамки простого поддержания формы — она является частью философии воспитания детей. Ранее в разговоре Марк упоминал испытание «Murph» (комплекс из бега, подтягиваний, отжиманий и приседаний в бронежилете), которое он проходит вместе с дочерьми. Через такие вызовы он стремится привить им дисциплину и понимание «человеческой материальности».

Марк категорически не согласен с идеей, что человеческое существо — это исключительно разум или набор данных. «Я не верю, что существо — это просто ум, — подчеркивает он. — Значительная часть того, что делает тебя человеком, — это набор ощущений и переживаний, связанных с телом, в сочетании с разумом, который их осмысляет» .

Когда Лекс Фридман спрашивает, должен ли ИИ обладать телом, чтобы достичь уровня AGI, Марк отвечает философски: это зависит от цели. Если задача системы — понимать людей как можно глубже, то моделирование физических ощущений необходимо . Однако существуют и формы интеллекта без физической оболочки, такие как фондовый рынок, который является сверхинтеллектуальным организмом, но не имеет тела и не говорит на языке .

Право на цифровую реплику и границы личного выбора 2:35:13

Одной из самых этически сложных тем диалога становится концепция ИИ-реплик людей, которые могут продолжать существование после смерти оригинала. Технологически создание таких аватаров, с которыми могли бы общаться близкие, становится возможным, но Марк видит в этом прежде всего юридическую и моральную дилемму: кто имеет право «нажать на кнопку»?

Позиция Марка Цукерберга здесь однозначна: право на создание цифровой копии должно принадлежать исключительно самому человеку, а не платформе или даже его наследникам. Он приводит аналогию с современными социальными сетями:

Пользователь может создать страницу «Фан-клуб Лекса Фридмана», и это допустимо .
Однако никто не имеет права создать страницу, выдавая себя за самого Лекса.
Тот же принцип должен применяться к ИИ: «Я считаю, что только вы должны решать, будет ли существовать "ИИ-Лекс"» .

Вопрос цифрового бессмертия для Марка — это не вопрос технического фидбэка, а вопрос автономии личности и сохранения идентичности в мире, где границы между оригиналом и копией начинают стираться.

Вера как фундамент: созидание по образу и подобию 2:36:34

В финале беседы Марк раскрывает роль веры и религиозных традиций в своей жизни. Для него религия имеет два аспекта: философский и культурный. Рассматривая Ветхий Завет и Книгу Бытия, Марк находит там главный стимул для своей деятельности. В тексте говорится, что Бог создал людей по своему образу, и Марк задается вопросом, что это означает в контексте того, что на тот момент Библия сообщает о Боге лишь одно — он Творец .

«Я всегда считал, что в созидании вещей заложена глубокая добродетель, — говорит Марк. — Будь то искусство или создание функциональных инструментов для других людей, сам этот акт является благом» . Эта идея формирует его личную мораль: хорошая жизнь — это жизнь, в которой ты помогаешь окружающим и выступаешь как позитивная созидательная сила, привносящая в мир нечто новое .

Рождение детей усилило в нем потребность в традициях и общине. Если в детстве вера воспринимается как нечто, что тебе «передают» взрослые, то в статусе родителя Марк осознал важность осознанного выбора ценностей, которые он хочет передать дочерям . Он признается, что ничто не делает его более счастливым, чем вид дочерей, увлеченно собирающих Lego: для него это проявление того самого духа строительства и творчества, который он считает ключевым для человека .

Вера также служит для него источником смирения. «Очень отрезвляет вера в то, что существует нечто гораздо большее, чем ты сам, что направляет этот мир», — резюмирует Марк . Завершая разговор, Лекс Фридман вспоминает слова Достоевского о том, что красота спасет мир, и благодарит Марка за его вклад в развитие технологий, которые, несмотря на все сложности, стремятся объединять людей .