В условиях стремительного развития искусственного интеллекта человечество сталкивается с беспрецедентным соблазном полностью делегировать свое мышление технологиям. Основатель Cosmos Institute Брендан Маккорд предупреждает о рисках превращения нашей реальности в «автозаполнение жизни» и призывает разработчиков ИТ-индустрии примерить на себя роль «философов-строителей». В своем выступлении для проекта Big Think он объясняет, почему Кремниевой долине жизненно необходим этический ориентир и как идеи классических мыслителей прошлого могут защитить человеческую автономию.
🤖 Риск «автозаполнения жизни» и утраты автономии 0:00
Сегодня искусственный интеллект глубоко проник в повседневность: алгоритмы дописывают за нас предложения, сортируют входящую почту и подбирают следующий музыкальный трек в очереди. По мнению Брендана Маккорда, пока все это находится исключительно в плоскости личного удобства, однако это лишь начало. Глава Cosmos Institute прогнозирует, что в ближайшем будущем ИИ начнет незаметно определять, какие идеи достигают разума человека, какие мысли в нем формируются, а также диктовать его последующие действия, карьерные решения, выбор отношений и жизненные цели. Маккорд называет подобный сценарий развитием «автозаполнения для жизни».
Исторические параллели показывают, что человечество уже сталкивалось с подобными вызовами. Еще 200 лет назад немецкий философ Вильгельм фон Гумбольдт размышлял на эту тему в эпоху, когда мир начинала трансформировать масштабная механизация. Гумбольдт сформулировал видение и одновременно предупреждение: для того чтобы процветать в качестве людей, мы обязаны оставаться самоуправляемыми и быть архитекторами собственного становления.
Исходя из этого, Маккорд задается критическими вопросами:
- Теряем ли мы что-то важное, если перекладываем свое мышление на алгоритмы?
- Не становимся ли мы «опустошенными» внутри как человеческие существа, отдавая ИИ на автоматизацию те цели, к которым хотим стремиться?
- Остается ли такая жизнь по-прежнему нашей собственной?
Именно поэтому при создании такой технологии, как искусственный интеллект, применение философских привычек ума становится невероятно важным условием для тщательного осмысления того, что именно мы строим и ради чего. С этой целью Cosmos Institute стремится взрастить новый тип технологов — философов-строителей (philosopher builders).
🚀 Кризис Кремниевой долины: от великих амбиций к манипуляции вниманием 1:36
Сократ когда-то утверждал, что неизученная жизнь не стоит того, чтобы её жить. Перефразируя древнегреческого мыслителя, Маккорд заявляет, что неизученный ИТ-продукт, возможно, не стоит того, чтобы его создавать.
По оценке спикера, Кремниевая долина изначально была местом, где смелые моральные амбиции гармонично сочетались с выдающимся инженерным мастерством. Ярким примером такого подхода Маккорд считает Стива Джобса, который верил, что слияние технологий с гуманитарными науками необходимо для создания продуктов, заставляющих человеческие сердца петь.
Однако со временем этот баланс был нарушен. Маккорд с сожалением констатирует, что лучшие умы современного поколения перенаправили свою энергию и внимание на то, чтобы управлять вниманием других людей и заниматься коммерческим сбором их личных данных. Возникает фундаментальный вопрос: как вернуть тот жизненно важный дух Кремниевой долины, который заключался в создании действительно значимых компаний?
Для иллюстрации этой проблемы Маккорд приводит аналогию с ракетостроением:
- Пропульсивная система (тяга) — это чистые инженерные усилия, необходимые для движения вперед.
- Система наведения (звездный трекер) — это то, что указывает направление носу ракеты и задает курс.
Философия, по мнению Маккорда, выполняет роль такого «звездного трекера». К сожалению, в современной Кремниевой долине этот инструмент встречается крайне редко.
🧩 Три деструктивных архетипа современных технологов 2:54
В процессе ежедневного общения с ИТ-специалистами глава Cosmos Institute выделил три доминирующих архетипа среди создателей технологий, которые мешают им мыслить глубже:
- Поглощенные головоломками (The puzzle absorbed). К ним Маккорд относит и себя в период, когда он активно занимался созданием ИИ-стартапов. Такие люди максимально сфокусированы на решении текущих технических и бизнес-задач, они не способны сделать шаг назад и задуматься о более широких целях и последствиях своего творения.
- Редукционисты (The reductionists). Это специалисты, которые берут сферу, в которой они сильны (например, вычисления), и проецируют её на всё остальное. По словам Маккорда, они склонны утверждать: «Если проблема не может быть решена методами компьютерных наук, стоит ли её вообще решать?». Они пытаются превратить даже мораль в нечто исчисляемое и алгоритмизируемое.
- Отрицатели (The dismissers). Представители этого типа признают, что философы прошлого были умными людьми, но считают их идеи абсолютно нерелевантными сегодня. Их аргументация сводится к тому, что мир меняется слишком быстро, и современные инженеры якобы ничего не могут почерпнуть у этих «радикальных чуждых умов прошлого». Маккорд иронично замечает, что это тоже своего рода философская позиция, но просто очень плохая.
📜 Противоядие «блицкригу» ИИ: вечные вопросы вне технологического пузыря 3:48
В качестве противоядия указанным деструктивным паттернам Маккорд предлагает концепцию разработчика, который всерьез воспринимает идеи человеческого процветания. Такой создатель думает о том, как проектировать системы, защищающие человеческую автономию, помогающие искать истину и сопротивляющиеся централизованному контролю.
Маккорд подчеркивает, что лучшие мыслители, рассуждавшие о возможностях технологий и их роли в качестве инструментов для человеческого благополучия, жили сотни или тысячи лет назад. Они находились далеко за пределами современного технологического пузыря. Среди величайших критиков Маккорд выделяет таких авторов, как Клайв Стейплз Льюис, Алексис де Токвиль и Мартин Хайдеггер. Спикер иронизирует, что эти люди уж точно не публиковали свои эссе на платформе Substack.
В индустрии искусственного интеллекта каждый день происходит своего рода «блицкриг», из-за чего разработчики чувствуют постоянную необходимость бежать вперед, чтобы просто оставаться на переднем крае. Однако Маккорд убежден, что во времена колоссальных изменений лучшее, что можно сделать, — это сделать шаг назад. Необходимо сфокусироваться на первостепенных, вечных вопросах и перенять опыт людей, не затронутых современными ИТ-трендами. Главная задача любого создателя — формировать общий мир, а для этого требуется глубокая рефлексия, где философия незаменима.
👑 «Таксис» против «Космоса»: Философский царь или Философ-строитель 5:16
Опираясь на труды Аристотеля, Маккорд напоминает об устоявшемся разграничении между целями, которые мы перед собой ставим, и средствами, которые мы используем для их достижения. Каждый разработчик должен спросить себя: «Ради чего я строю?». Спикер уверен, что этот вопрос ничуть не менее важен, чем вопросы Сократа в диалогах Платона о том, что такое справедливость или мужество. В Cosmos Institute технологов учат проходить путь от первых принципов (first principles) до первого рабочего прототипа (first prototype).
Для объяснения политико-технологического устройства будущего Маккорд обращается к древнегреческим понятиям порядка, которых было два:
- Таксис (Taxis) — это порядок, который насаждается целенаправленно, жестко и строго сверху вниз.
- Космос (Cosmos) — это противоположный тип порядка: эволюционный, адаптивный, возникающий спонтанно снизу вверх.
В платоновском «Государстве» представлена концепция философа-царя, который объединяет в себе мудрость и власть, познает истину и затем использует её для единоличного правления. Маккорд классифицирует подход философа-царя как типичный «таксис» — унитарное проектирование идеального общества по единому жесткому чертежу сверху вниз. Такой подход ошибочно предполагает, будто один разум — человеческий или искусственный сверхинтеллект — способен получить монопольный доступ к абсолютной истине и на этом основании управлять каждым из нас.
Напротив, концепция «философа-строителя» воплощает в себе «космос». По мнению Маккорда, это децентрализованное сообщество предпринимателей, которые создают инструменты, высвобождающие творческие силы свободной цивилизации. Каждый из них может обладать лишь крупицей истины. Однако коллективно, переплетаясь друг с другом, они способны выстроить гораздо более устойчивую и гибкую систему, сохраняющую возможность для достижения самых разнообразных человеческих целей.
🇺🇸 Бенджамин Франклин как эталон философа-строителя 7:20
Идеальным историческим воплощением философа-строителя Маккорд называет Бенджамина Франклина. Большинство людей знают его как одного из отцов-основателей США и видят его портрет на 100-долларовой купюре. Однако Франклин был прежде всего инженером, досконально освоившим технологии своего времени: он изобрел громоотвод, бифокальные линзы и ввел в обиход понятия положительного и отрицательного электрического заряда.
Параллельно Франклин оставался глубоким философом, который подчинил свою жизнь системе из 13 добродетелей и создал дискуссионный клуб Junto для взаимного интеллектуального развития.
Маккорд подчеркивает, что Франклин был наиболее эффективен тогда, когда переводил философию в плоскость практических инноваций:
- Взяв просвещенческую идею о том, что знание должно существовать вне авторитарного контроля, он спроектировал и создал первую систему публичных библиотек.
- Работая над Конституцией США, он взял теоретические идеи Монтескьё, Адама Смита и Джона Локка и успешно внедрил их в функционирующую конституционную систему, которая направляет государство по сей день.
Франклин на практике доказал, что глубокая философия и изобретательство могут гармонично сосуществовать в одном человеке.
🏛️ Будущее человеческой цивилизации и триллионный выбор 8:49
Создавая технологии принятия решений и логического вывода планетарного масштаба, современные инженеры фактически строят системы, способные думать вместо людей. Маккорд убежден, что разработчики сейчас проектируют не просто приложения, а операционную систему для всей человеческой цивилизации, поэтому ставки невероятно высоки.
Индустрии необходимы предприниматели, способные привнести в бизнес твердое моральное видение. Будущее должно опираться на адаптивный порядок, идущий снизу вверх, когда технологии усиливают способность каждого отдельного человека к самоуправлению, а не подавляют её.
По прогнозу Маккорда, следующие инвестиции в размере 1 триллиона долларов в инфраструктуру искусственного интеллекта приведут к одному из двух исходов: они либо колоссально возвысят человеческий потенциал, либо станут инструментом для создания идеального и тотального контроля над обществом. Глава Cosmos Institute резюмирует, что их организация делает однозначную ставку на поддержку тех, кто выбирает путь развития и свободы.
