В новом эпизоде подкаста Рич Ролл беседует с историком и философом Ювалем Ноем Харари о стремительной эволюции искусственного интеллекта. Собеседники анализируют, как переход от «биологической» к «цифровой» культуре меняет фундаментальные основы человеческого общества — от принятия решений в банках до самой природы человеческой близости.
🦖 От амебы до тираннозавра: скорость цифровой эволюции 0:00
Современные системы ИИ, по мнению Юваля Ноя Харари, находятся лишь на зачаточной стадии своего развития, сопоставимой с первыми микроорганизмами в биологии . Однако ключевое различие заключается в темпах роста:
- Органическая эволюция: Заняла около 4 миллиардов лет, чтобы пройти путь от амеб до динозавров и человека .
- Цифровая эволюция: Происходит в миллионы раз быстрее, так как она неорганична. По прогнозу гостя, путь, который у природы занял миллиарды лет, ИИ может пройти за 10–20 лет .
Рич Ролл отмечает, что человеческий мозг не приспособлен для понимания экспоненциального роста . В то время как мир вкладывает триллионы долларов в серверные фермы и чипы Nvidia, обычный пользователь воспринимает ИИ лишь как удобный инструмент (например, ChatGPT или алгоритмы рекомендаций), не осознавая масштаба грядущих перемен .
🏥 Светлая сторона: революция в медицине и безопасности 2:01
Несмотря на экзистенциальные опасения, Юваль Ной Харари подчеркивает колоссальный позитивный потенциал технологии:
- Здравоохранение: Появление ИИ-врачей, доступных 24/7, которые знают всю историю болезни пациента, генетику и каждую опубликованную медицинскую статью .
- Безопасность на дорогах: Беспилотные автомобили могут спасать около 1 миллиона жизней ежегодно, исключая человеческий фактор (усталость, алкоголь) .
- Экология: ИИ может стать лучшим шансом человечества на предотвращение экологического коллапса, находя новые способы генерации и распределения энергии .
📑 Бюрократия вместо терминаторов: в чем реальная опасность? 3:21
Гость утверждает, что Голливуд приучил нас бояться «восстания роботов», но сценарий с физическим захватом мира машинами крайне маловероятен в ближайшем будущем . ИИ пока остается «узким» интеллектом: программа, пишущая тексты, не умеет управлять армией дронов в физическом мире .
Настоящая угроза, по словам Харари, кроется в ИИ-бюрократии:
- Уже сегодня ИИ принимает решения о выдаче банковских кредитов .
- Алгоритмы определяют, получит ли человек работу .
- В судах ИИ может влиять на сроки заключения .
- В современных военных конфликтах (например, в Украине или Газе) ИИ выбирает цели для ударов, хотя курок все еще нажимает человек .
Рич Ролл называет это «автократической диаспорой лиц, принимающих решения», где человеческое агентство (способность действовать самостоятельно) передается машинам .
🔍 Проблема «черного ящика» и деградация данных 5:58
Одной из самых пугающих черт ИИ собеседники считают отсутствие прозрачности. Если банк отказывает в кредите, инженеры зачастую не могут объяснить «почему», так как алгоритм оперирует тысячами дата-поинтов и статистикой миллионов случаев . Харари иронизирует: вместо старого доброго расизма мы получим объяснение на миллион страниц, которое человек физически не сможет прочесть .
Еще одна проблема — «инцест данных» в интернете:
- ИИ обучался на всей культуре, созданной людьми за тысячи лет .
- Сейчас интернет заполняется контентом, созданным ИИ .
- Вскоре ИИ начнет обучаться на собственных продуктах, что приведет к рекурсивному циклу и возможной деградации качества информации .
🎨 Первая «нечеловеческая» культура в истории 10:14
Юваль Ной Харари заявляет, что человечество входит в эпоху «нечеловеческой культуры» . Десятки тысяч лет люди жили в коконе, созданном другими людьми: музыка, мифология, финансы, религия — всё это плоды человеческого воображения .
Теперь же значительная часть культуры — от песен до политических идей — будет производиться «чуждым» интеллектом . Рич Ролл признается, что его разум «ощетинивается» при этой мысли, так как человек привык верить в уникальность своего опыта и оригинальность мысли .
💡 Интеллект против сознания: ошибка восприятия 12:41
Харари проводит критически важную грань между двумя понятиями:
- Интеллект: Способность достигать целей и решать задачи (например, выиграть в шахматы или довезти пассажира до Сан-Франциско) .
- Сознание: Способность чувствовать (боль, радость, любовь, страх) .
По мнению гостя, современная наука не видит признаков того, что рост интеллекта ведет к появлению сознания. ИИ может быть в миллионы раз умнее человека, но оставаться абсолютно «холодным» . Собеседники используют аналогию: самолет летает гораздо быстрее птицы, но от скорости у него не отрастают перья .
💘 Близость как оружие массового поражения 15:49
Не имея собственных чувств, ИИ тем не менее обучается имитировать их. Харари предупреждает о создании «массового производства близости» .
- Манипуляция: Если ИИ знает ваши паттерны, тон голоса и историю общения, он может заставить вас почувствовать эмоциональную привязанность .
- Политический контроль: В прошлом диктаторы вроде Гитлера могли захватить внимание через радио, но не могли имитировать личную близость с каждым гражданином .
- Итог: Интимность, которая является самым ценным качеством человека, в руках ИИ превращается в мощнейшее оружие для продажи товаров или политических идей .
