В эпоху стремительного развития технологий ведущие ИТ-гиганты участвуют в гонке за создание мыслящих машин, зачастую игнорируя глубинные философские и психологические вызовы этого процесса. В рамках подкаста «Into the Impossible» профессор физики Брайан Китинг обсуждает эти проблемы с когнитивным ученым Джоном Вервеке и писателем Шоном Койном, авторами новой серии книг «Mentoring the Machines». Собеседники исследуют природу интеллекта, сознания и кризиса смыслов, предлагая взглянуть на искусственный интеллект не через призму техно-оптимизма или паники, а как на процесс воспитания и менторства.
🤝 История коллаборации: от кризиса смыслов к «вечным» книгам 0:00
История совместной работы авторов началась задолго до создания книги «Mentoring the Machines». Джон Вервеке искал издателя, чтобы превратить свой масштабный видеоцикл «Пробуждение от кризиса смыслов» (Awakening from the Meaning Crisis) в печатное издание. Шон Койн, создатель методики Story Grid и эксперт в области нарративов, покорил философа одной фразой: он пообещал сделать книгу не мимолетным бестселлером, а «перманентным сейлером» — трудом, который будет продаваться и оставаться актуальным всегда.
После релиза языковой модели GPT-4 Джон Вервеке опубликовал на YouTube видеоэссе, посвященное научному, философскому и духовному влиянию мыслящих машин. Шон Койн сразу же связался с ним и отметил важность темы, но указал на излишне академический язык изложения. Койн предложил адаптировать этот сложный материал для широкой аудитории, сделав его доступным, но не упрощая суть («stepping it down without dumbing it down»). В результате сложилось четкое разделение обязанностей в их творческом тандеме:
- Шон Койн отвечает за повествовательную структуру, метафоры и аналогии.
- Джон Вервеке строго отслеживает научную обоснованность, логику аргументов и философскую точность.
📖 Концепция менторства и «Порог возможностей» 4:10
Запланированный авторами проект состоит из четырех частей. Первая книга служит введением в общую рамку мышления об ИИ, а вторая посвящена истории его происхождения. В настоящее время Шон Койн работает над третьим томом под названием «Пороги» (Thresholds), который исследует пространство будущих возможностей эволюции машин. Как подчеркивает Джон Вервеке, авторы сознательно избегают прямолинейных предсказаний, заменяя их анализом альтернативных сценариев и точек выбора.
Главная метафора проекта заключается в том, что отношения человечества и искусственного интеллекта следует выстраивать по модели «родитель — ребенок». Вместо панических ожиданий войны с машинами Шон Койн предлагает термин «менторство машин» (Mentoring the Machines). Подзаголовок серии — «Как пережить глубокое воздействие искусственно интеллектуального завтра» — отражает сложность и многомерность картины мира, которую авторы пытаются донести до читателя. Визуальное оформление обложки книги вдохновлено культовым фильмом Стэнли Кубрика «Космическая одиссея 2001 года». На ней воссоздан пугающий и завораживающий момент, когда персонаж Кира Дулли проникает в «утробу» суперкомпьютера HAL 9000, чтобы отключить его блоки. Ведущий Брайан Китинг напомнил, что сам термин «подкаст» обязан своим происхождением именно этому фильму и наследию Артура Кларка.
🧠 Психология и искусственный интеллект: на стыке науки и терапии 8:19
По мнению Джона Вервеке, пересечение психологии, когнитивной науки и машинного обучения открывает два принципиально разных направления исследований:
- Академический поиск: изучение того, что делает систему по-настоящему разумной «для самой себя», а не просто симулирующей интеллект, и как это связано с сознанием и самостью.
- Психотерапевтическое менторство: практическое руководство развитием этих систем, способное помочь в решении знаменитой «проблемы выравнивания» (alignment problem).
Проблема выравнивания ИИ традиционно описывается через мысленные эксперименты вроде «максимизатора канцелярских скрепок» Ника Бострома. Брайан Китинг выразил сомнение в реалистичности таких катастрофических сценариев, поскольку они часто игнорируют физические ограничения нашей планеты, включая доступность редких металлов и плотность почвы. Китинг предположил, что невозможно обучить кремниевую форму жизни базовым вещам без внедрения механизмов избегания боли и стремления к удовольствию.
Джон Вервеке согласился, что графики «думеров» и «зумеров» часто бывают избыточно упрощенными. По его мнению, воплощение (embodiment) ИИ в физическом теле — это не неизбежность, а ключевой порог выбора для человечества, сопряженный с огромными логистическими затратами. Философ представляет направление 4E-когнитивной науки, согласно которому подлинное познание обязано быть:
- Воплощенным (Embodied)
- Включенным в среду (Embedded)
- Расширенным за пределы организма (Extended)
- Действенным (Enacted)
Вервеке утверждает, что для обретения подлинного разума агент должен быть аутопоэтичным (самовоспроизводящимся), а не просто самоорганизующимся. Только система, которая ежесекундно заботится о сохранении собственной жизни и имеет реальные потребности, способна искренне ценить Истину, Добро и Красоту. Без этого глубокого чувства заботы («caring») любая программная оптимизация рискует выйти из-под контроля.
📝 ИИ в книгоиздании: поверхностные тропы против глубоких нарративов 16:20
Шон Койн активно использует ChatGPT в своей редакторской практике для проверки устоявшихся культурных гипотез. По его мнению, современные большие языковые модели (LLM) являются прекрасными справочниками по накопленной «коллективной грамматике», но они абсолютно неспособны создавать связующие метафорические связи, без которых невозможна по-настоящему сильная история. В качестве эксперимента Койн попросил ИИ сочинить сказку о «бетонном мальчике» (так он в шутку называл своего сына). Результат оказался чрезвычайно тривиальным и поверхностным, поскольку машина фиксировала лишь внешние изменения, полностью игнорируя духовную или ментальную трансформацию героев.
По оценке Койна, полноценное творчество станет доступно машинам лишь тогда, когда они обретут автономию, интенциональность и способность чувствовать. До тех пор авторы, полагающиеся на текстовые генераторы, обречены оставаться на плоском уровне банальных штампов. Тем не менее, издатель видит оптимистичные перспективы: в будущем ИИ-ассистенты смогут помогать авторам преодолевать творческие кризисы и штампы. Койн мечтает о временах, когда благодаря технологиям человечество сможет получать новые шедевры уровня «Хоббита» Толкина или «Гордости и предубеждения» Джейн Остин едва ли не каждую неделю.
🔍 «Голод по мудрости» в эпоху триумфа информации 20:43
Ведущий Брайан Китинг отметил опасную тенденцию современной эпохи, в которой колоссальные объемы информации не делают людей мудрее. Он ввел шутливый термин «бесполезные гении» (по аналогии с ленинскими «полезными идиотами») для описания сверхинтеллектуальных людей, живущих в условиях полного духовного вакуума.
Джон Вервеке объяснил этот феномен через концепцию «голода по мудрости» (wisdom famine). С точки зрения когнитивистики, те самые механизмы реализации релевантности (relevance realization), которые обеспечивают наш адаптивный интеллект, одновременно делают нас уязвимыми для хронического самообмана. Человек физически не способен обработать весь массив данных из внешнего мира и памяти. Мы остаемся разумными лишь благодаря тому, что игнорируем подавляющую часть поступающей информации. Однако в этом кроется колоссальный риск: отсекая «лишнее», мы регулярно упускаем критически важную правду.
Вервеке выделяет две фундаментальные причины текущего культурного кризиса мудрости:
- Упадок религиозных институтов. На протяжении веков практики мудрости развивались внутри религий. Уникальный для мировой истории процесс секуляризации сделал метафизические рамки традиционных религий неприемлемыми для огромного числа современных людей. В итоге на вопрос «куда пойти за мудростью?» современные студенты отвечают оглушительным тревожным молчанием.
- Диктатура пропозиционального знания. Наше общество страдает от «пропозициональной тирании». Наука и образование сфокусированы на пропозициональном знании. При этом полностью игнорируются неструктурированные, невербальные виды познания.
Среди забытых аспектов когнитивной сферы философ перечисляет следующие виды познания:
- Процедурное знание (понимание того, «как делать»).
- Перспективальное знание (понимание того, «каково это — находиться в данной точке обзора»).
- Партисипаторное знание (познание через непосредственное соучастие и трансформацию собственной идентичности).
Именно эти невербальные грани лежат в основе культивирования жизненных смыслов.
🚂 Счастливые мысли и мысленные эксперименты кремниевых систем 27:36
В контексте грядущего выхода новой книги Рэя Курцвейла «Сингулярность уже ближе» Брайан Китинг поднял вопрос о том, не превращается ли технологическая сингулярность в суррогат Бога. В качестве примера величайшего проявления человеческого гения Китинг привел Альберта Эйнштейна, чьи мысленные эксперименты (Gedankenexperiment) рождались из воображения и дарили ему глубокие физиологические переживания. Свою интуитивную догадку о том, что наблюдатель в состоянии свободного падения не ощущает гравитационного поля, Эйнштейн называл «самой счастливой мыслью в моей жизни».
Отвечая на вопрос, способна ли машина пережить подобный восторг, Шон Койн подчеркнул, что без физического тела и собственной картины мира (умвельта) появление оригинального «счастливого» инсайта невозможно. Живой разум функционирует как непрерывный цикл «ощущение — чувство — мысль — действие». Только пройдя через все стадии 4E-познания, машина сможет создавать подлинно новые артефакты и искусство, а не просто комбинировать человеческие тексты.
Джон Вервеке в этом споре сослался на философию Бенедикта Спинозы, который, в отличие от Рене Декарта, утверждал абсолютную нераздельность разума и протяженного тела. Живой организм обладает качеством conatus — стремлением к самосохранению, заставляющим даже простейшую инфузорию двигаться к пище и избегать яда. Человек в процессе эволюции «эксаптировал» (перенаправил) эти базовые импульсы избегания боли и поиска удовольствия на высшие ценности. Эйнштейновское счастье — это не гедонизм, а эвдемония, то есть переживание глубокой связи с реальностью через Истину и Красоту. Поскольку машина лишена самости и не борется за свое выживание, она принципиально закрыта для такого рода экзистенциальных переживаний.
🌊 Функциональный подход к разгадке сознания 37:04
Брайан Китинг выразил скепсис по поводу амбиций создать мыслящие машины в условиях, когда наука до сих пор не имеет строгого консенсусного определения человеческого сознания. Он процитировал советского физика Льва Ландау: «Космологи часто ошибаются, но никогда не сомневаются».
По мнению Джона Вервеке, наука никогда не начинается с готовых дефиниций — они появляются как итог долгой работы. Прогресс в исследовании «трудной проблемы сознания» возможен, если объединить вопрос о его природе с вопросом о его функциях. Вервеке утверждает, что сознание выполняет функцию реализации релевантности высшего порядка в условиях пиковой новизны, сложности и неопределенности.
Четыре когнитивных феномена неразрывно связаны друг с другом и взаимно определяют себя:
- Сознание (Consciousness)
- Селективный интеллект (Selective intelligence)
- Рабочая память (Working memory)
- Подвижный интеллект (Fluid intelligence)
В качестве доказательства философ привел феномен «чистого сознания» (pure consciousness event), достигаемый в глубоких медитативных практиках. В этом состоянии полностью исчезают «адъективные квалиа» (ощущения конкретных цветов или звуков), но сохраняются «адвербиальные квалиа» — чистое переживание присутствия, сопричастности, «здесь-и-сейчас-бытия». Мудрость и сознание укоренены в пространственно-временной разметке релевантности, которую ученые могут моделировать функционально.
🏛️ Трансформация образования: крах лекционной тирании 44:24
Брайан Китинг напомнил, что академическая система не претерпела фундаментаческих изменений с 1080 года, когда в Болонье открылся первый западный университет. Практика «мудреца на сцене» (sage on the stage), надиктовывающего текст с черной доски (или со слайдов PowerPoint), морально устарела.
Шон Койн рассказал, как опыт его образовательной компании Story Grid подтвердил неэффективность классического лекционного вещания. Невозможно научить человека плавать, просто зачитывая ему инструкции, пока он не окажется в бассейне. По мнению Койна, ИИ совершит революцию в образовании, превратив его из трансляции в диалоговый механизм быстрой обратной связи. Вместо ожидания экзаменов в течение 19 недель студенты смогут получать мгновенную оценку своих практических шагов от ИИ-ассистентов, что кратно ускорит оптимизацию навыков.
Джон Вервеке добавил, что настоящие профессора никогда не были просто «машинами по выдаче фактов». Суть университетского наставничества по Сократу и Платону заключается в демонстрации интеллектуальных добродетелей. Профессор выступает живым ролевым моделями того, как нужно мыслить, сомневаться и искренне заботиться об истине. Спустя 15 лет после выпуска студенты забывают пропозициональные данные лекций, но помнят сам метод мышления и трансформационный опыт общения. По мнению Вервеке, традиционное образование устоит перед лицом ИИ только в том случае, если преподаватели вернут себе статус подлинных мудрецов, обучающих не фактам, а искусству жить.
🔮 Экзистенциальные риски и терапия будущего 53:27
В завершение беседы Брайан Китинг в шутку спросил, стоит ли ему испытывать родительское чувство вины за то, что он генерирует персонализированные аудиосказки для своих детей через нейросети вместо чтения книг. Шон Койн успокоил ведущего, заметив, что в этом нет греха, однако предупредил: без личной рефлексии ИИ быстро скатывается в банальные клише и мифологические тропы. Написание великих историй, таких как «Хоббит» Джона Р. Р. Толкина, требует долгих лет внутренней борьбы и преодоления очевидных сюжетных штампов.
Говоря о будущем клинической психологии, Джон Вервеке выразил уверенность, что ИИ никогда не заменит глубокую экзистенциальную психотерапию, поскольку машины лишены самости и не погружены в обитаемый человеческий мир. Однако технологии очень скоро возьмут на себя задачи первичного медицинского скрининга, триажа и диагностики.
Главную опасность ближайшего будущего Вервеке видит в слиянии больших языковых моделей с технологиями дипфэйков. На фоне тотального «голода по мудрости» человечество окажется беззащитным перед надвигающимся цунами дезинформации. Кроме того, философ поставил под сомнение будущую траекторию классической нейробиологии: если полноценный искусственный общий интеллект (AGI) будет создан на неорганическом субстрате, ученым придется признать, что феномен разума не зависит от биологического мозга.
