Сет Годин о будущем искусственного интеллекта, капитализма и климата

Dr Brian Keating 4,2 тыс. 45 мин 7 мин 24.09.2023
Главное

В интервью физику Брайану Китингу всемирно известный эксперт по маркетингу и писатель Сет Годин делится масштабным видением будущего технологий, бизнеса и экологии. Они подробно обсуждают природу человеческого сознания на фоне развития искусственного интеллекта, кризис современного краткосрочного капитализма и коллективные усилия, необходимые для преодоления климатического кризиса. Центральной темой беседы становится поиск смыслов и устойчивых социальных структур в эпоху глобального разобщения.

🐝 Эффект пчелиного улья: новые метафоры для командной работы 1:51

Брайан Китинг предлагает начать беседу с разбора обложки новой книги Сета Година. Писатель объясняет, что дизайн с изображением буквы «B» (Bees — пчелы) был вдохновлен трудами исследовательской деятельности Жаклин Фримен и других женщин-апиаристов. По мнению Година, пчелу в контексте социума стоит воспринимать не как изолированное существо, а как аналог отдельного нейрона, где весь улей функционирует как единый мозг.

В этой естественной системе координация происходит без явного лидера, что служит мощной метафорой для построения современных человеческих команд и систем. Гость проводит аналогию с большой наукой: каждый ученый формально преследует личные интересы, но когда они переплетают свою работу и действуют сообща, возникает феномен подлинной Науки. Годин признается, что обложка его книги прошла около 40 итераций, прежде чем издатель утвердил финальный вариант. В качестве ответной рекомендации Китинг упоминает книгу Ларса Читтки «Разум пчелы» (The Mind of a Bee), выпущенную издательством Princeton University Press, которая исследует проблему формирования сознания.

🤖 Магия алгоритмов: почему искусственный интеллект не умеет мыслить 4:50

Собеседники переходят к обсуждению искусственного интеллекта и вспоминают знаменитый тезис Артура Кларка о том, что любая достаточно продвинутая технология неотличима от магии. Годин рассказывает, что в 1983 году руководил командой, которая впервые перенесла научно-фантастический роман Кларка в формат компьютерной игры, собравшей в прокате больше денег, чем многие печатные книги писателя.

Размышляя о природе современных больших языковых моделей, Годин подчеркивает, что алгоритмы занимаются лишь математическим подбором наиболее вероятных слов на основе миллиардных корпусов текста с добавлением фактора рандомизации для избежания банальности. По утверждению гостя, нейросети не обладают реальным пониманием контекста.

Однако, опираясь на идеи философа Даниела Деннета, Годин заявляет, что человеческий мозг во многом функционирует схожим образом. По мнению писателя, то, что люди называют сознанием и свободной волей, является лишь постфактум-комментарием к действиям, которые мозг уже предпринял на подсознательном уровне.

Китинг выражает скепсис по поводу надежности ИИ и рассказывает о своем проекте по созданию аватаров великих ученых прошлого, таких как Галилей и Эйнштейн, чтобы они могли обучать друг друга. Ведущий отмечает проблему «галлюцинаций» моделей, когда чат-бот с абсолютной уверенностью выдает ложные формулы, например, ошибочно называя закон гравитации законом обратных кубов вместо обратных квадратов.

📉 Угроза «цифрового вырождения» и трансформация обучения 8:51

Годин напоминает об историческом прецеденте — программе «Элиза» Джозефа Вейценбаума, чей простейший код симуляции психотерапевта заставил его секретаршу уволиться из MIT из-за сильного эмоционального потрясения. Касаясь темы взаимодействия алгоритмов между собой, гость указывает на зафиксированный исследователями факт: обучение ИИ на материалах, созданных другими нейросетями, ведет к стремительному вырождению моделей — изображения искажаются, а тексты превращаются в бессмыслицу. Именно поэтому разработчикам пришлось искусственно ограничить сбор данных из интернета определенной временной отметкой, чтобы избежать коррозии ИИ-систем продуктами жизнедеятельности самих же алгоритмов.

Разделяя понятия «образование» и «обучение», Годин жестко критикует классическую систему образования, называя ее бюрократическим конвейером, требующим лишь послушания и комплаенса в обмен на дипломы. Настоящее обучение, по его словам, происходит только тогда, когда человек что-то делает, ошибается и исследует границы. Обсуждая перспективы интеграции ИИ и устройств виртуальной реальности вроде Apple Vision Pro, Китинг предполагает, что это может стать новым шагом в индустрии, хотя его личный опыт использования первых версий Oculus оказался неутешительным.

👤 Низкое разрешение против «зловещей долины»: психология цифрового суррогата 13:34

Ведущий поднимает проблему мошенничества и психологических манипуляций в соцсетях, приводя в пример одиноких женщин и вдов, которые становятся жертвами «кетфишинга» на Facebook и Instagram. По данным Китинга, жертвы продолжают переводить деньги манипуляторам, даже осознавая обман; при этом средняя сумма потерь составляет около 100 долларов, но в ряде случаев достигает и 100 тысяч.

Годин, опираясь на свой опыт в игровой индустрии, заявляет, что разработчики VR совершают ошибку, гонясь за сверхвысоким разрешением картинки. Такие культовые проекты, как Tetris или Minecraft, успешны именно благодаря низкому разрешению, тогда как избыточно реалистичная графика погружает пользователя в отталкивающий эффект «зловещей долины». По мнению гостя, симуляция Земли в романе Нила Стивенсона «Лавина» (Snow Crash) работала эффективно именно за счет своей схематичности.

Годин сравнивает суррогатное цифровое общение с легальными коммерческими услугами, где терапевты или секс-работники получают деньги за удовлетворение конкретных эмоциональных или физических потребностей клиента. Современных подростков, зависимых от алгоритмов TikTok, писатель метафорически сравнивает с подопытными организмами, нажимающими на кнопку ради получения очередной пищевой гранулы.

🏢 Эфемерный капитализм: полураспад корпораций и истинная цель бизнеса 16:07

Переходя к экономическим темам, Китинг и Годин обсуждают сокращение продолжительности жизни крупных корпораций. Гость утверждает, что в современных реалиях гигантские компании редко способны пережить продолжительность человеческой жизни — они поглощаются, трансформируются (как Nokia или Nintendo) или исчезают. Формулируя свой ключевой манифест, Сет Годин заявляет: цель человеческой культуры не в том, чтобы обслуживать капиталистов, а цель капитализма — давать ресурсы для развития культуры. Он критикует предпринимателей Кремниевой долины, которые вместо улучшения качества продуктов гонятся за ростом акций.

В качестве примера приводится история противостояния Yahoo и Google: Yahoo уничтожила себя погоней за краткосрочной квартальной выгодой, тогда как Google на ранних этапах отказывался от сиюминутных прибылей ради долгосрочной ценности. При этом Годин считает, что сегодня Google начинает повторять те же самые ошибки Yahoo.

Давая совет Китингу по развитию его YouTube-канала, писатель рекомендует сфокусироваться на конкретных качественных изменениях, которые автор хочет привнести в жизнь своих зрителей, вместо погони за метриками вовлеченности. В качестве примера бескомпромиссного контента приводится австралийский блогер (проект Primitive Technology), создающий безмолвные видео о технологиях каменного века.

Также Годин делит историю Apple на три условных этапа: Apple-1 и Apple-2 под руководством Стива Джобса ориентировались на развитие цифрового вкуса и инновации, а Apple-3 при Тиме Куке превратилась в машину по продаже люксовых товаров с минимальным уровнем инноваций ради удовлетворения фондового рынка. В подтверждение тезиса Китинг зачитывает реальное архивное письмо Джобса от 7 декабря 1989 года с предложением о работе в Next Computer Inc., где кандидат должен был подписаться под строкой «Я принимаю это безумно великолепное предложение».

✍️ Наследие Айзека Азимова и магия печатного слова 23:32

Китинг признается, что на популяризацию науки его во многом вдохновил писатель Айзек Азимов, который, как выяснилось, был близким другом Сета Година. Гость вспоминает, что даже назвал одного из своих сыновей в честь Азимова. Собеседники цитируют архивное письмо Азимова к Карлу Сагану, где тот хвалил коллегу за «неуправляемый» авторский стиль, создающий ощущение живой беседы. Китинг зачитывает культовую цитату Сагана о том, что книга — это удивительный плоский объект из дерева, позволяющий заглянуть в разум человека, умершего тысячи лет назад, и называет этот феномен истинной магией человечества.

Описывая свой собственный писательский процесс, Сет Годин подчеркивает, что пишет каждый текст исключительно сам. Нейросети он использует лишь как инструмент генерации идей и провокации мышления, например, прося составить 10 вариантов подзаголовков, чтобы затем придумать свой собственный, превосходящий их по качеству.

Гость рассказывает историю о своей книге 2000 года, предисловие к которой формально написал Чарльз Дарвин: Годин скачал тексты ученого с Project Gutenberg и сократил их до трех страниц, убрав лишнее, но сохранив оригинальные слова автора. Китинг проводит параллель с долговечностью носителей информации, вспоминая первое издание диалогов Галилея на пергаменте, которое сохранилось лучше, чем напечатанный гораздо позже на кислотной бумаге труд Дарвина «Происхождение видов».

🌍 Климатический манифест: маркетинг против «неопределённости» 30:43

Сет Годин подробно рассказывает о своем масштабном волонтерском проекте The Carbon Almanac («Углеродный альманах»). Осознав, что крупные корпорации вроде British Petroleum намеренно внедрили концепт индивидуального «углеродного следа», чтобы переложить вину на обывателей и заставить их чувствовать себя лицемерами, Годин решил объединить людей. Силами 1900 волонтеров была создана книга объемом 97 000 слов, содержащая верифицированные графики и диаграммы, в которой не было допущено ни одной серьезной фактической ошибки.

Китинг отмечает, что планирует интервью с профессором Нью-Йоркского университета Стивеном Куниным, автором критической книги Unsettled, отстаивающим позицию неопределенности климатических прогнозов. Годин эмоционально реагирует на это, заявляя, что тезис об «неустановившейся науке» — это уловка, созданная по лекалам табачных компаний 1954 года, которые требовали бесконечных дополнительных исследований, чтобы отсрочить регулирование рынка и защитить свои доходы. Гость предлагает задать оппонентам два вопроса:

  1. Что плохого в создании мира, работающего на чистой энергии и ставшего более справедливым?
  2. Что произойдет, если скептики ошибаются, учитывая консенсус 99,9% климатологов мира?

Годин призывает называть вещи своими именами: вместо абстрактного термина «глобальное потепление» использовать медицинскую метафору «атмосферный рак».

Завершая беседу размышлениями о законах Артура Кларка, Годин признается в своих былых крупных ошибках — в свое время недооценка потенциала интернета стоила ему потери около 45-50 миллиардов долларов. Тем не менее гость выражает сдержанный оптимизм по поводу будущего, отмечая наметившиеся сдвиги в области углеродного налога и технологических прорывов вроде термоядерного синтеза. Своей 20-летней версии Годин дал бы лишь один короткий совет, отсылающий к сюжету фантастического романа Кенна Гримвуда «Повтор» (Replay): «Все в итоге будет хорошо».

💬 Цитаты

«Пчелу стоит воспринимать не как изолированное существо, а как отдельный нейрон, где весь улей функционирует как единый мозг.»

Сет Годин 02:30

«Цель культуры не в том, чтобы обслуживать капиталистов, а цель капитализма — давать ресурсы для развития культуры.»

Сет Годин 17:14

«У нас нет глобального потепления. У нас атмосферный рак.»

Сет Годин 38:37
👥 Спикеры
📚 Упомянутые книги
🎬 Упомянутые фильмы и сериалы
📖 Термины
Большие языковые модели (LLM)
Алгоритмы ИИ, предсказывающие следующее наиболее вероятное слово в предложении на основе анализа огромных массивов текста.
Эффект «зловещей долины»
Психологическая реакция отторжения или страха, возникающая у человека при виде робота или компьютерной модели, выглядящих почти как люди, но с мелкими неестественными изъянами.
Кетфишинг
Вид сетевого мошенничества, при котором злоумышленник создает вымышленную личность для манипуляций и обмана жертвы.
📊 Цифры
🗓 Хронология
  1. 1954 Табачные компании США объединяются и запускают кампанию с требованием «дополнительных исследований» вреда курения.
  2. 1983 Сет Годин руководит командой по созданию компьютерной игры по мотивам романа Артура Кларка.
  3. 1989 Стив Джобс отправляет официальное предложение о работе Дэвиду Наги в Next Computer Inc.
  4. 2000 Сет Годин публикует книгу, в которой в качестве предисловия использует сокращенный текст Чарльза Дарвина.
⚖️ Другая сторона
Продукты и маркетинг Сет Годин Брайан Китинг The Carbon Almanac Apple