# Джим Келлер и Джонатан Пейжо об AI: путь к изобилию или к технологическому «Зверю»? Источник: https://www.youtube.com/watch?v=0ll5c50MrPs Канал: Jordan B. Peterson Опубликовано: 24.11.2022 --- В новом выпуске подкаста Джордан Питерсон модерирует глубокую дискуссию между легендарным инженером микропроцессоров Джимом Келлером и художником-иконописцем Джонатаном Пейжо. Собеседники исследуют природу искусственного интеллекта (AI), пытаясь понять, станет ли он инструментом беспрецедентного изобилия или воплощением апокалиптического «Зверя», лишающего человека свободы. ## 🛠️ Архитектура разума: от атома до нейросети [[JUMP:05:55]] Джим Келлер, чья карьера охватывает работу в Apple, AMD, Tesla и Intel, определяет свою роль не как исследователя AI, а как компьютерного архитектора [06:23]. По его словам, путь создания вычислительной мощности идет от манипуляций с атомами к транзисторам, логическим затворам и, наконец, к программам, способным запускать современные нейронные сети [06:50]. В ходе дискуссии Келлер привел ряд ключевых технических параметров: * **Человеческий мозг:** выполняет около 10 в 18-й степени операций в секунду (миллиард миллиардов) [07:42]. * **Современный смартфон:** осуществляет порядка 10 миллиардов операций в секунду [07:55]. * **Передовые системы AI (OpenAI, Google):** достигают уровня 10 в 16-й степени операций в секунду [08:07]. По оценке Келлера, современные компьютеры находятся в пределах коэффициента 100 от вычислительной способности человеческого мозга [08:07]. Он отмечает, что за последние пять лет революционный скачок произошел не только в скорости, но и в способности моделей извлекать «суть» (gist) из огромных массивов данных, будь то пересказ книги на 200 000 слов или написание пьес в стиле Шекспира [09:01]. ## 📖 История как когнитивная архитектура [[JUMP:11:30]] Джордан Питерсон выдвигает тезис о том, что человек воспринимает мир исключительно через призму истории [05:17]. По его мнению, мы понимаем персонажей, имитируя их цели и физиологические реакции своим телом [11:57]. Однако AI, не обладая биологическим телом, демонстрирует поразительную способность предсказывать развитие сюжета. Джим Келлер объясняет это через концепцию минимизации ошибки: 1. **Прогнозирование:** Нейросеть постоянно предсказывает следующий элемент (слово или событие) [19:14]. 2. **Функция ошибки:** Если реальность расходится с прогнозом, система корректирует свои «веса» через обратное распространение ошибки (back propagation) [25:05]. 3. **Эмоциональный эквивалент:** По мнению Келлера, то, что люди называют тревогой, разочарованием или возбуждением, в архитектуре AI соответствует математической функции ошибки и ее минимизации [13:28]. Джонатан Пейжо выражает сомнение в полной автономности этого процесса. Он утверждает, что интеллект AI остается расширением человеческого, поскольку именно люди задают критерии «хорошего» и «плохого» на этапе обучения, вкладывая в систему свое «небезразличие» (care) [27:19]. ## 🐉 AI: Технологический «Зверь» или небесный Иерусалим? [[JUMP:1:16:25]] Джонатан Пейжо проводит параллель между развитием технологий и библейскими образами из Книги Откровения. Он выделяет две дихотомические модели будущего: * **Образ Зверя:** Технология, которая завораживает людей говорящими изображениями, заставляя их поклоняться искусственному конструкту, за которым стоит тираническая воля [1:16:52]. * **Небесный Иерусалим:** Город-сад, где технология служит человеческому процветанию, собирая в себе «славу народов» и сохраняя иерархию, где искусственное подчинено естественному [1:17:18]. Пейжо выражает серьезную обеспокоенность тем, что современное человечество «поклоняется собственным желаниям», что может привести к реализации сценария «Зверя» [1:24:43]. В качестве примера он приводит использование технологий во время пандемии COVID-19 в Канаде для усиления авторитарного контроля [1:25:24]. ## 📉 Оптимизм Келлера против опасений Пейжо [[JUMP:40:28]] Несмотря на риски, Джим Келлер сохраняет то, что его племянник называет «циничным оптимизмом» [1:06:08]. Его аргументы в пользу позитивного будущего: * **Саморегуляция:** Подобно тому как человечество избежало ядерного уничтожения в период холодной войны, оно сможет выработать механизмы регулирования AI [49:03]. * **Преодоление дефицита:** Технологии позволят создать мир изобилия, где энергия и ресурсы перестанут быть ограничением для миллиардов людей [51:47]. * **Разнообразие вместо тирании:** Истинный интеллект ведет к диверсификации целей, а не к единообразию. Келлер полагает, что сверхразумные AI будут преследовать свои цели (например, в математике), не мешая людям заниматься их делами [44:11]. В ответ на это Пейжо напоминает о «сказке о джинне»: исполнение неограниченных желаний часто ведет к краху, так как люди не до конца понимают последствия своих скрытых стремлений [52:36]. Он утверждает, что современное изобилие уже породило волну нигилизма среди молодежи [57:43]. ## 🌐 Демократизация против централизации [[JUMP:1:09:11]] Одним из главных вопросов дискуссии стала возможность захвата контроля над AI узкой группой лиц. Келлер проводит историческую аналогию с рынком компьютеров: 1. **Эра мейнфреймов:** Вычислительные мощности принадлежали только корпорациям [1:09:11]. 2. **Революция ПК:** Появление персональных компьютеров демократизировало доступ к информации [1:09:26]. 3. **Современный этап:** Сейчас идет борьба между закрытыми платформами (Apple, Google) и открытыми сообществами [1:15:16]. Келлер считает, что стоимость обучения моделей упадет настолько быстро, что через 10 лет каждый сможет иметь собственный AI на личном устройстве [1:10:19]. Этот «личный посредник» сможет очищать интернет от рекламы и манипуляций, проверяя новости на объективность по множеству источников [1:10:19]. По его мнению, распределенная информация на миллиардах жестких дисков практически неуязвима для тотальной цензуры [1:13:20]. ## 🎯 Этический выбор индивида [[JUMP:1:18:47]] Джордан Питерсон подводит итог, отмечая, что направление технологического развития зависит от индивидуального морального выбора каждого человека. * **Позитивный сценарий:** Если люди будут стремиться к высшим ценностям, AI станет инструментом для достижения «жизни в избытке» [1:24:04]. * **Негативный сценарий:** Если мы выберем роль «жертв собственных темных желаний», AI-революция закончится катастрофой [1:19:26]. Питерсон подчеркивает, что современные системы уже паразитируют на кратковременном внимании человека, усиливая голоса нарциссов и психопатов [1:04:49]. Однако он соглашается с Келлером в том, что технологическое развитие неизбежно, и попытки остановить его обречены на провал — успех возможен только через осознанную саморегуляцию [57:03].