Дон Сонг: от кибербезопасности к созданию мыслящих машин

«Слабейшим звеном в любой защите остаются люди, ведь человеческий фактор невозможно „пропатчить“ обновлением безопасности», — утверждает эксперт по кибербезопасности Дон Сонг. Пока хакеры осваивают незаметное отравление данных и атакуют нейросети через физический мир, инженеры ищут спасение в математической верификации кода. Настоящий прорыв произойдет тогда, когда мы научим машины автономно писать программы — именно этот шаг откроет дорогу к созданию защищенного сильного искусственного интеллекта.

🛡️ Безопасность систем: от формальных гарантий до человеческого фактора

Формальная верификация программных систем 3:58

С развитием сложности современных IT-архитектур обеспечение абсолютной защищенности становится нетривиальной инженерной задачей. Дон Сонг подчеркивает, что традиционные методы тестирования не дают исчерпывающих гарантий безопасности, поэтому исследовательское сообщество активно развивает методы формальной верификации. Эти подходы позволяют использовать математические методы статического анализа кода для того, чтобы с высокой степенью достоверности доказать отсутствие целых классов уязвимостей — например, связанных с нарушением безопасности памяти.

Сегодня мы вступаем в эру, где критически важные компоненты систем, такие как микроядра, компиляторы, файловые системы и криптографические библиотеки, проходят процедуру формальной верификации. Несмотря на то, что большинство этих техник работают именно статически — то есть анализируют структуру кода без его исполнения, — это дает фундаментальную уверенность в корректности алгоритмов. Тем не менее, даже верифицированная система может оставаться уязвимой для других типов атак, что требует постоянного развития инструментов защиты.

Неизбежность уязвимостей в ПО 7:16

Фундаментальный вопрос кибербезопасности звучит так: можно ли создать систему, в которой уязвимости будут отсутствовать в принципе? Дон Сонг отмечает, что концепция «идеально безопасного кода» остается недостижимым идеалом в реальных условиях. Программные системы постоянно усложняются, а ландшафт угроз непрерывно трансформируется.

Существует даже ироничная поговорка: «безопасность — это гарантия занятости». Природа атак чрезвычайно разнообразна: от классических переполнений буфера, позволяющих перехватить контроль над потоком исполнения программы, до изощренных атак по сторонним каналам (side channels), когда злоумышленники пытаются выведать секреты, просто наблюдая за поведением системы. В таких условиях задача защиты превращается в попытку доказать отсутствие атаки в системе, где само определение «атаки» может меняться ежедневно.

Человеческий фактор и социальная инженерия 9:49

По мере того как защита программных уровней становится более надежной, злоумышленники смещают фокус атак вверх по стеку — непосредственно на человека. Дон Сонг называет людей «слабейшим звеном» любой системы безопасности. В отличие от кода, который можно обновить или «пропатчить», человеческую психологию невозможно исправить простым обновлением системы безопасности.

Социальная инженерия и фишинговые атаки становятся всё более эффективными. Случаи, когда сотрудники крупных технологических компаний поддаются на манипуляции и переводят средства злоумышленникам, подтверждают, что даже высокий уровень технической грамотности не гарантирует защиту от психологического воздействия. К этой же категории эксперт относит создание фейковых новостей, направленных на манипуляцию общественным мнением, что в будущем станет еще более серьезной угрозой.

Чат-боты для защиты от фишинга 12:34

Для противодействия автоматизированным атакам на человека необходимо использовать аналогичные технологии защиты. Дон Сонг предлагает концепцию «умных агентов» — чат-ботов, которые наблюдают за общением пользователя и помогают выявлять признаки мошенничества. Например, если злоумышленник, выдающий себя за родственника, просит срочно перевести деньги, бот может заметить аномалии в контексте.

Более того, система может автоматически генерировать вопросы-челленджи (своего рода капчу на знание фактов), которые помогут подтвердить личность собеседника. Подобный чат-бот фактически становится цифровым представителем пользователя, его персональным «юристом» в киберпространстве, который защищает от импульсивных действий и попыток введения в заблуждение. В будущем такие сервисы могут стать стандартом, интегрированным в социальные сети или мессенджеры.

Состязательные атаки на этапе инференса 17:00

В области машинного обучения безопасность обретает новые формы. Состязательные атаки (adversarial attacks) на этапе инференса направлены на то, чтобы заставить нейросеть принять неверное решение. Злоумышленник вносит в исходные данные — например, изображение — едва заметные возмущения (perturbations). Эти изменения настолько малы, что человеческий глаз их попросту не воспринимает, однако для модели они радикально меняют восприятие объекта, заставляя её выдать неверный (или заранее намеченный атакующим) классификационный ответ.

Отравление обучающих данных и бэкдоры 19:04

Еще более опасный вид воздействия происходит на этапе обучения модели. Атака «отравления данных» (data poisoning) подразумевает добавление в тренировочную выборку специально подготовленных примеров, которые скрыто меняют поведение модели. Это позволяет создать так называемый «бэкдор» (backdoor).

Модель продолжает работать корректно для большинства обычных входных данных, но «активируется» при появлении специфического триггера. Дон Сонг приводит пример с системами распознавания лиц: злоумышленники могут скомпрометировать модель так, что любой человек, на котором надеты определенные очки, будет распознаваться системой как конкретное лицо (например, политический деятель). Ранее они также обсуждали, что такие атаки переносом могут иметь серьезные последствия для реальных API и безопасности систем. Подобные манипуляции крайне сложно обнаружить даже при тщательной проверке датасета, так как модель «запоминает» ложные паттерны глубоко внутри своих весов.

🛡️ Уязвимости в физическом мире и глубоком обучении 27:14

Дон Сонг и Лекс Фридман детально обсуждают, как состязательные примеры выходят далеко за пределы цифровых манипуляций с пикселями, становясь реальной угрозой для критически важных систем, таких как беспилотные автомобили. Исследования, представленные в том числе в лондонском Музее науки, наглядно демонстрируют, как модификация реальных дорожных знаков с помощью обычных наклеек может заставить компьютерную систему классификации ошибочно распознать знак «Стоп» как «Ограничение скорости».

Переход от цифровых атак к физическим требует решения целого ряда инженерных задач, которые делают процесс значительно сложнее «лабораторных» условий. В отличие от работы с цифровым файлом, где атакующий может менять любой пиксель, в физическом мире необходимо учитывать:

Вариативность условий: освещение, углы обзора, расстояние до объекта.
Физические ограничения: наклейки должны быть нанесены на сам объект, а не за его пределы.
Процесс сенсорного восприятия: изменения должны быть достаточно заметными, чтобы камера «увидела» их после прохождения света через оптическую систему.
Полиграфические факторы: конечный результат зависит от качества печати наклеек, что вносит дополнительные искажения.

Несмотря на сложность, Дон Сонг подчеркивает, что создание таких примеров — это строгий научный процесс, основанный на оптимизации с учетом множества физических параметров, а не просто случайный метод проб и ошибок.

🧠 Проблема репрезентаций нейросетей 35:59

Факт того, что нейронные сети можно так легко обмануть, обнажает фундаментальную проблему современного глубокого обучения. Дон Сонг отмечает, что текущие модели, несмотря на все достижения, не обладают по-настоящему глубоким и осмысленным пониманием мира.

Хотя некоторые исследователи предполагают, что состязательные примеры — это «фича», указывающая на то, что сеть просто выделила из данных признаки, недоступные человеческому глазу, Сонг склоняется к другому выводу. Она утверждает, что нейросети часто не учат «правильные» вещи, их внутренние репрезентации недостаточно богаты. Человеческое зрение оперирует сложными контекстуальными связями, объединяя данные для решения задач планирования и распознавания, в то время как современные системы ИИ ограничены более поверхностными корреляциями. По мнению Сонг, именно переход к созданию более богатых, устойчивых и общих репрезентаций является ключом к будущей безопасности технологий. Ранее в разговоре они также кратко затрагивали тему того, что большинство существующих методов защиты носят характер «заплаток», а не фундаментальных решений.

🧩 Пространственная согласованность как защита 40:47

Для борьбы с атаками на семантическую сегментацию, где атакующий может заставить систему видеть несуществующие объекты (например, «Hello Kitty» вместо дорожного покрытия), Дон Сонг предлагает использовать проверку пространственной согласованности.

Принцип защиты заключается в том, что при случайном выборе двух пересекающихся фрагментов изображения, результаты их сегментации в зоне пересечения должны быть идентичными. Это ограничение, которое естественным образом выполняется для реальных изображений, оказывается критическим барьером для атакующего. Чтобы обойти такую защиту, злоумышленнику потребовалось бы сделать манипуляции во всех частях изображения идеально скоординированными, не зная при этом алгоритма, по которому система выбирает фрагменты для проверки.

Этот подход оказался крайне эффективным и был расширен на другие модальности: временную согласованность в аудио и видео, что позволяет создавать гораздо более устойчивые системы, способные самостоятельно проверять достоверность своих предсказаний.

🌐 Атаки на реальные API и кража моделей 48:24

Вопреки скепсису многих компаний, полагающих, что их реальные системы слишком сложны для подобных атак, Дон Сонг подтверждает, что угроза вполне реальна. В недавних исследованиях удалось показать, как через публичные API можно «украсть» архитектуру и параметры закрытой модели, создав её функциональную копию — модель-имитацию.

Используя эту локальную копию, атакующий может с высокой точностью создавать состязательные примеры для коммерческих сервисов, например, для систем машинного перевода. Таким образом, даже минимальное изменение входного текста может привести к контролируемому искажению перевода, что доказывает уязвимость даже самых защищенных API.

🛡️ Обратная сторона ИИ: конфиденциальность обучения и новая экономика данных 50:26

Разговаривая о безопасности искусственного интеллекта, Лекс Фридман и Дон Сонг переходят от обсуждения технической устойчивости алгоритмов к фундаментальной проблеме приватности. Ранее в разговоре собеседники кратко коснулись состязательных атак на этапе инференса в текстовых моделях, а также упомянули физические атаки на автопилот. Однако если эти угрозы нацелены на сбой в работе систем здесь и сейчас, то другая скрытая уязвимость современных нейросетей подрывает безопасность самих обучающих данных, делая их доступными для злоумышленников.

Запоминание конфиденциальных данных и дифференциальная приватность 57:33

В компьютерной безопасности традиционно выделяют два базовых свойства защищенных систем: целостность и конфиденциальность. Предыдущие примеры состязательных атак относились именно к нарушению целостности — когда злоумышленник пытается заставить ИИ выдать неверное предсказание. Приватность же находится на стороне конфиденциальности: она призвана защитить систему от утечки чувствительной информации об отдельных людях. Дон Сонг подчеркивает, что современные глубокие нейросети обладают колоссальной емкостью. Обратная сторона этой мощности заключается в том, что в процессе обучения алгоритмы склонны буквально зазубривать и детально запоминать фрагменты обучающей выборки. Впоследствии злоумышленники могут скрыто извлечь эту конфиденциальную информацию из уже обученной модели.

Существует два основных типа таких атак. При сценарии «белой коробки» атакующий имеет полный доступ к внутренним параметрам и весам нейросети. Но гораздо опаснее атаки типа «черной коробки», когда модель доступна пользователям только через интерфейс запросов. Чтобы доказать реальность этой угрозы, Дон Сонг в сотрудничестве с исследователями из Google провела показательное исследование. Они задались вопросом: можно ли извлечь приватные данные из обученной языковой модели, просто отправляя ей обычные текстовые запросы?

Для эксперимента была выбрана языковая модель, обученная на знаменитом архиве Enron (Enron email dataset), который естественным образом содержал реальные переписки сотрудников, включая их личные данные. Результаты оказались пугающими:

Разработав новые методы атак, исследователи смогли успешно извлечь из готовой модели подлинные номера социального страхования (SSN) и номера кредитных карт сотрудников.
Атакующему не потребовалось знать внутреннюю структуру сети — приватная информация вычленялась исключительно через генерацию ответов на грамотно сформулированные запросы.

Единственной надежной защитой от подобных утечек Дон Сонг называет технологию дифференциальной приватности. Если вместо стандартных подходов обучать дифференциально-приватную языковую модель, риски сводятся к минимуму без потери качества работы алгоритма. Механизм работает прямо на этапе оптимизации: при обновлении весов и градиентов в процесс намеренно вносится математически выверенный случайный шум и возмущения. Это гарантирует, что присутствие или отсутствие данных конкретного человека в выборке не повлияет на финальный результат, полностью защищая личные данные пользователей от извлечения.

Экономика будущего и права собственности на цифровые данные 1:05:44

Проблема защиты приватности закономерно выводит дискуссию на глобальный философский и экономический уровень: кому на самом деле должны принадлежать данные в цифровую эпоху? Сегодня большинство интернет-сервисов кажутся бесплатными, но они полностью финансируются за счет таргетированной рекламы. Эта модель работает исключительно потому, что технологические гиганты имеют безграничный доступ к персональной информации пользователей для точечного воздействия. Дон Сонг предлагает изменить эту парадигму, внедрив строгое юридическое понятие прав собственности на данные.

В качестве обоснования исследовательница приводит фундаментальную историческую аналогию с физическим имуществом. Исторически законодательное закрепление и государственная защита прав собственности стали ключевым драйвером цивилизации, обеспечив мощный экономический рост США. Более того, современные исследования показывают, что отставание многих развивающихся стран вызвано не дефицитом капитала, а отсутствием четких и защищенных институтов собственности.

Дон Сонг уверена, что этот опыт необходимо спроецировать на виртуальный мир. Сегодня личность человека определяется уже не столько его материальным имуществом, сколько колоссальным массивом генерируемых им цифровых данных. Этот массив включает в себя политические взгляды, вкусы в музыке и кино, финансовую историю, транзакции и конфиденциальные медицинские показатели.

В настоящий момент эти данные фактически бесконтрольно принадлежат собирающим их интернет-компаниям. Определение пользователя как первоначального и законного собственника своей информации — это важнейший первый шаг. Только имея статус собственника, человек получает законное право диктовать условия использования своих данных.

Лекс Фридман опасается, что жесткий контроль разрушит привычную модель интернета, лишив общество бесплатного доступа к социальным сетям. Дон Сонг считает этот страх необоснованным: закрепление прав собственности не запрещает обмен данными, а делает его осознанным. Многие пользователи добровольно согласятся делиться информацией ради качественных рекомендательных систем, которые советуют отличные фильмы, музыку или научные статьи. Однако в случаях, когда алгоритмы используются для опасных манипуляций сознанием через таргетированную рекламу, у людей должен быть рычаг защиты.

В качестве альтернативы возникнут прозрачные модели подписок: пользователи смогут платить за сервисы напрямую, полностью отключая слежку и рекламу, что уже становится нормой. Таким образом, институциализация прав собственности на данные предоставит людям реальный выбор и, по мнению Дон Сонг, послужит мощнейшим толчком для долгосрочного роста всей цифровой экономики.

🛡️ Безопасность и консенсус в распределённых реестрах 1:22:04

Дон Сонг подчеркивает, что в эпоху повсеместного цифрового взаимодействия критически важным направлением становится безопасность транзакций и данных в децентрализованных системах, таких как блокчейн. В контексте распределенных реестров главная задача — обеспечить целостность данных в среде, где участники сети не обязательно доверяют друг другу.

Система функционирует на базе сообщества узлов, и даже если часть из них ведет себя недобросовестно, при соблюдении определенных пороговых значений «честных» участников сеть сохраняет свои ключевые свойства. Это достигается за счет механизмов консенсуса, которые позволяют поддерживать неизменяемый лог транзакций — единый реестр, синхронизированный между всеми узлами.

С точки зрения безопасности Дон Сонг выделяет два фундаментальных аспекта:

Целостность: Защита от попыток злоумышленников изменить историю транзакций или совершить «двойную трату» (double spending). Устойчивость к таким атакам напрямую зависит от архитектуры консенсуса (например, Proof-of-Work или Proof-of-Stake) и объема ресурсов, затраченных на поддержание сети.
Конфиденциальность: В классических публичных реестрах транзакции прозрачны для всех, что создает проблему приватности. Для решения этой задачи используются методы доказательств с нулевым разглашением (zero-knowledge proofs) и технологии безопасных вычислений.

Ранее в разговоре они касались проблем контроля над данными и необходимости баланса между полезностью рекомендательных систем и защитой личной информации пользователей.

Объединение этих подходов позволяет создавать «ответственную экономику данных», где блокчейн служит инструментом для подтверждения прав собственности пользователя на его данные и контроля за тем, как и кем они используются.

🤖 Нейронный синтез программного кода 1:32:20

Одним из наиболее амбициозных направлений в современной информатике Дон Сонг считает программный синтез — обучение компьютеров самостоятельному написанию кода на основе описания задачи. Для нее этот переход от классической кибербезопасности к машинному обучению и синтезу программ стал логичным шагом на пути к созданию полноценного сильного искусственного интеллекта (AGI).

Сонг называет область синтеза программ «идеальной песочницей» для развития интеллектуальных машин. Если классические нейронные сети преуспели в задачах классификации, то способность алгоритма самостоятельно генерировать программы — это принципиально иной уровень сложности, сопоставимый с тестом Тьюринга. Это умение выражать сложные идеи, рассуждать и преобразовывать их в работающие алгоритмы.

На текущий момент область нейронного синтеза программ находится на ранней стадии развития, однако сообщество исследователей активно растет. Уже существуют прикладные решения, демонстрирующие эффективность технологии в ограниченных доменах, например, автоматический перевод естественного языка в SQL-запросы к базам данных.

Для дальнейшего прогресса в этой области Дон Сонг выделяет необходимость четких метрик, одной из которых является измеримая сложность синтезируемых программ — количество строк кода и глубина алгоритмической структуры, которую машина способна создать без участия человека. Хотя сейчас успехи в этом направлении сосредоточены в узких нишах, эксперт уверена, что с ростом вычислительной мощности и усложнением нейросетевых архитектур масштаб решаемых задач будет стремительно расти.

🚀 Синтез программ и путь из большой физики: как рождается интеллект 1:40:16

Архитектура, генерализация и адаптация: барьеры на пути к «умному» коду

Автоматизация программирования — или синтез программ — долгое время оставалась в рамках решения примитивных задач. Как отмечает Дон Сонг (Dawn Song), эволюция в этой области измеряется не скоростью работы алгоритмов, а сложностью структур, которые они способны выстраивать. Если первые системы могли лишь переводить описания на естественном языке в простейшие триггеры формата «если это, то то» (IFTTT), то современные нейронные сети замахиваются на куда более серьезные архитектуры.

Главные вызовы, стоящие перед сообществом сегодня, можно разделить на три ключевых направления:

Усложнение архитектуры кода. Переход от линейных команд к SQL-запросам, циклам и, что особенно важно, рекурсии. Дон Сонг подчеркивает, что именно рекурсивные нейронные программы стали прорывом: одна из её работ, посвященная этой теме, получила награду «Best Paper» на конференции ICLR.
Генерализация (обобщение). Проблема многих нейронных моделей в том, что они «зазубривают» обучающие примеры. Цель же состоит в том, чтобы синтезатор мог корректно обрабатывать входные данные, которые он никогда не видел в процессе обучения. В определенных узких доменах рекурсивные модели уже демонстрируют «идеальную генерализацию», но масштабирование этого успеха на широкие области остается открытым вопросом.
Адаптация к новым задачам. Это, пожалуй, самый сложный барьер. Современные модели обучаются решать конкретную задачу (например, играть в го или писать специфический скрипт). Однако человеческий интеллект работает иначе: мы извлекаем знания из прошлого опыта и мгновенно адаптируем их для решения принципиально новых проблем.

Дон Сонг уверена, что «мечта о синтезе программ» — это создание инструмента, который, подобно человеку, способен не просто копировать код, а обучаться самому процессу созидания. Ранее в разговоре они с Лексом Фридманом (Lex Fridman) уже касались нейронного синтеза программного кода, но здесь акцент смещается на фундаментальную неспособность текущих систем к гибкой адаптации.

Из теоретической физики в компьютерные науки: поиск красоты и скорости

Путь Дон Сонг в мир высоких технологий начался не с алгоритмов, а с фундаментальных законов природы. Получив базовое образование в Китае, в Университете Цинхуа, она переехала в США, чтобы продолжить изучение физики в Корнелле. Этот опыт заложил фундамент для её будущего стиля мышления.

«Физика — это язык природы. Я отчетливо помню момент в библиотеке Цинхуа: я сидела над записями и внезапно осознала, что из нескольких простых аксиом и законов можно вывести буквально всё. Можно вывести всю Вселенную».

Однако реальность академической физики оказалась менее элегантной, чем её математические формулы. Переход Дон в IT был продиктован двумя практическими причинами:

Ловушка симуляций. В теоретической физике того времени исследователь неизбежно сталкивался с необходимостью писать громоздкий код на Fortran 77 для моделирования процессов. Это превращало изучение тайн мироздания в рутинную отладку старых программ.
Скорость воплощения идей. В экспериментальной физике между теорией и её подтверждением могли пройти годы, осложненные «грязной» работой по починке дорогостоящего оборудования.

В программировании Дон Сонг нашла то, чего ей не хватало: мгновенную обратную связь. «В компьютерных науках гораздо проще реализовать свои идеи. Если у тебя есть задумка, ты пишешь код — и он оживает на твоих глазах». Самостоятельно изучив язык C в колледже, она написала свои первые игры — го и трехмерный тетрис. Именно это ощущение создания «чего-то из ничего» стало поворотным моментом, заставившим её окончательно сменить Cornell на CMU и заняться компьютерной безопасностью и машинным обучением.

Наука без границ и культурный мост

Обсуждая свой переход из китайской образовательной среды в американскую, Дон отмечает, насколько изменился мир. 20 лет назад между культурами пропасть была шире: не было свободного доступа к электронной почте, а информация о Западе была привилегией. Сегодня же, по её мнению, наука стала по-настоящему глобальной.

Несмотря на геополитические сложности, Дон Сонг сохраняет оптимизм относительно сотрудничества США и Китая в области ИИ. Её аргумент прост: наука не знает границ. Открытость академического сообщества, использование arXiv и публикация исходного кода делают знания достоянием всего мира, независимо от того, где физически находится исследователь. Эта прозрачность — главный залог прогресса человечества как вида.

В завершение этой части беседы Лекс и Дон плавно переходят к экзистенциальным вопросам, обсуждая, какfacing mortality (столкновение со смертностью) меняет восприятие жизненных приоритетов, что подводит их к теме предназначения и создания мыслящих машин.

🌌 Философия созидания: от эволюции человека к мыслящим машинам 2:05:37

Жизнь как процесс: между накоплением опыта и непрерывным ростом 2:05:37

В финальной части беседы Лекс Фридман и Дон Сонг обращаются к глубоким философским аспектам человеческого существования, пытаясь нащупать, в чём же заключается истинный смысл жизни. Дон Сонг отмечает, что для многих людей этот ответ кроется в самом жизненном опыте — в стремлении прожить отведённое время максимально насыщенно и полно. С этой точки зрения, жизнь представляет собой уникальную коллекцию моментов, и задача человека — наполнить каждый из них глубокими, богатыми переживаниями. Сама Дон Сонг признаётся, что для неё огромную ценность имеет процесс созидания. Она проводит параллель со своей академической деятельностью: написание научных статей и проведение исследований — это тоже акты творения. Тем не менее, она открыто делится, что долгое время не задумывалась о том, является ли созидание как таковое финальным смыслом её индивидуального пути, ведь спектр вещей, которые человек способен создать, безграничен.

В ходе дискуссии Дон Сонг выделяет несколько ключевых подходов к определению жизненных ориентиров:

Накопление богатого жизненного опыта и коллекционирование ярких моментов.
Созидание новых сущностей, включая академические труды и технологические решения.
Непрерывный внутренний рост и ежедневное стремление стать лучшей версией себя.

Этот непрерывный личностный рост Дон Сонг чётко отделяет от простого накопления опыта. Это движение вперёд тесно переплетается с глобальными эволюционными процессами во Вселенной. Лекс Фридман развивает эту мысль, замечая парадоксальный факт: сам процесс роста и преодоления трудностей зачастую оказывается намного важнее, чем конечная точка, к которой стремится человек. Он приводит в пример академическую рутину: момент отправки готовой научной статьи на конференцию часто сопровождается не только празднованием, но и странным чувством опустошения. Как только проект завершён, исследователь моментально переключается на поиск следующего вызова. Удовлетворение приносит не финальный статус, а преодоление трудностей и жёсткие испытания, которые закаляют разум в процессе. Это стремление к борьбе и развитию укоренено глубоко внутри нас и напрямую отражает глобальные эволюционные механизмы.

Свобода самоопределения и экзистенциальные ловушки 2:07:54

Поиск экзистенциальных истин — это путь, полный ментальных ловушек. Дон Сонг убеждена, что люди, которые избыточно много времени и сил тратят на агрессивные попытки разгадать загадку бытия, редко обретают истинное счастье. Сам вопрос о смысле часто оказывается некорректно сформулированным с логической точки зрения. Однако величайшая свобода человека заключается в том, что он наделён правом самостоятельно конструировать этот ответ для себя. Если осознанно заявить, что твой смысл — это созидание, творчество или непрерывное развитие, то эта субъективная истина становится реальной движущей силой.

Лекс Фридман добавляет, что в этой субъективной уверенности есть нечто глубоко освобождающее. Даже если эта определённость — всего лишь иллюзия или результат самовнушения, она дарует человеку ментальную свободу. Она позволяет полностью, без остатка посвятить себя выбранной миссии, не отвлекаясь на постоянные экзистенциальные сомнения. В противном случае человек рискует погрузиться в абсолютный релятивизм, где размываются понятия добра и зла, а любые действия теряют ценность. Вопросы о смысле важны как инструмент самопознания, но если задавать их слишком долго и яростно, они превращаются в ловушку, разрушающую как продуктивность в рамках общественных стандартов успеха, так и внутреннее ощущение счастья. Человечеству суждено смотреть на звёзды и задавать неразрешимые вопросы, но критически важно сохранять баланс и не терять почву под ногами.

Создание мыслящих машин как высшая форма предназначения 2:10:41

Для Дон Сонг философия независимого выбора смысла жизни нашла прямое практическое воплощение в её научной судьбе. Ранее в разговоре они детально обсуждали технические аспекты компьютерной безопасности, уязвимости программного обеспечения и блокчейн-технологии, однако за её карьерными решениями стоял более глубокий экзистенциальный выбор. Переломный момент произошёл, когда Сонг решила окончательно сместить фокус своих исследований с кибербезопасности на искусственный интеллект.

Основной причиной этого радикального шага стало чёткое внутреннее осознание: цель её жизни заключается в создании мыслящих машин. Её внутренний голос подсказал, что именно это направление является истинным и самым правильным интеллектуальным путешествием. Проектирование искусственного разума можно рассматривать как высшую точку человеческого созидания. Создавая мыслящие системы, человек выходит за рамки пассивного участника биологической эволюции и становится активным творцом эволюции технологической. Лекс Фридман называет это решение глубоким и абсолютно легитимным шагом. Дон Сонг не просто остановилась на философских рассуждениях, а трансформировала своё видение в реальные действия, став одним из ведущих мировых исследователей в области ИИ. Этот вдохновляющий финал беседы о предназначении, созидании и будущем мыслящих машин подводит черту под масштабным диалогом.