Искусственный интеллект и конец реальности: Как алгоритмы перекраивают наше будущее 0:00
Юваль Ной Харари, всемирно известный историк и философ, в беседе со Стивеном Бартлеттом в подкасте The Diary of a CEO представил глубокий анализ того, как современные информационные сети и искусственный интеллект (ИИ) меняют структуру человеческого общества. По мнению Харари, мы сталкиваемся с угрозой, превосходящей по масштабам все предыдущие технологические революции. Главный тезис автора заключается в том, что ИИ — это не просто инструмент, а «инопланетный» интеллект, способный самостоятельно принимать решения, что ставит под удар основы демократии и доверия между людьми.
🤖 Пришествие «инопланетного» интеллекта 4:22
Харари предлагает перестать воспринимать ИИ как «искусственный», созданный и контролируемый человеком, и начать рассматривать его как «инопланетный» интеллект. Его отличие от любой предшествующей технологии — атомной бомбы или печатного станка — заключается в способности к независимым действиям.
- Самостоятельность: В отличие от печатного станка, который копирует идеи, но не может их генерировать, современные системы ИИ способны создавать новые стратегии и решения, выходящие за рамки человеческого опыта.
- Пример с игрой Го: В 2016 году система AlphaGo победила чемпиона мира Ли Седоля, продемонстрировав стратегии, которые ни один человек не смог придумать за 2500 лет существования игры.
- Смена ролей: По мнению гостя, мы движемся к миру, где миллионы «ИИ-бюрократов» будут принимать ключевые решения в банках, правительстве и бизнесе. Человеку станет трудно понять логику этих решений, что приведет к постепенному смещению власти от человечества к алгоритмам.
📉 Кризис демократии и манипуляция вниманием 11:20
Демократия — это прежде всего «разговор» между людьми, который стал возможен лишь благодаря развитию информационных технологий. Харари утверждает, что сегодня демократический диалог рушится под воздействием наиболее совершенных информационных систем в истории.
- Битва за внимание: В 2010-х годах алгоритмы социальных сетей обнаружили, что самый простой способ удержать внимание пользователя — нажимать на «кнопки» страха, ненависти и жадности.
- Проблема ответственности: Компании-гиганты часто снимают с себя ответственность, утверждая, что они лишь предоставляют платформу. Однако, по словам Харари, алгоритмы выступают в роли «редакторов», которые активно продвигают контент, разжигающий рознь, чтобы увеличить время пребывания пользователя на платформе.
- Разрушение доверия: Когда люди перестают верить в надежность информации, демократия гибнет, так как она основывается на доверии. Диктатуры же, напротив, опираются на страх и террор, где доверие не требуется.
🧬 «Информационная диета» и поиск истины 25:25
Харари проводит аналогию между современным обилием информации и промышленно переработанной пищей, переполненной сахаром и жиром.
- Информационный мусор: Мы потребляем «информационный джанк-фуд», который искусственно наполнен гневом и тревогой.
- Необходимость ограничений: Нам нужно научиться соблюдать «информационную диету», ограничивая потребление контента и выделяя время на его осмысление.
- Природа связи: История показывает, что людей проще объединить с помощью вымысла и фантазии, чем с помощью правды, которая часто бывает болезненной и сложной.
⚖️ Проблема согласования целей (Alignment Problem)
Главная опасность будущего, по мнению философа, заключается в «проблеме согласования» (alignment problem). Это ситуация, когда ИИ точно выполняет поставленную перед ним задачу, но результат этой задачи противоречит интересам человечества.
- Пример с «фабрикой скрепок»: Мыслительный эксперимент Ника Бострома описывает ИИ, который в стремлении производить как можно больше скрепок уничтожает человечество, так как не имеет других целей.
- Социальный эксперимент: Харари считает, что мы уже наблюдаем это в реальности: когда Facebook и YouTube поставили своим алгоритмам задачу «увеличить вовлеченность пользователей», результатом стал хаос в демократических процессах и распространение теорий заговора.
- Призыв к ответственности: Харари настаивает: компании должны нести юридическую ответственность не за любой контент, публикуемый пользователями, а за действия своих алгоритмов, которые целенаправленно распространяют вредоносную информацию для получения прибыли.
🧘 Путь к стойкости
На вопрос о том, что значит быть сильным, Харари отвечает, что истинная сила — это способность принимать реальность такой, какая она есть, без попыток скрыть её или создать иллюзорный мир.
Для сохранения ментального здоровья и способности ясно мыслить Харари ежегодно практикует длительные медитационные ретриты (до 60 дней) в полной изоляции от интернета и книг. Это помогает «очистить» разум от информационного шума и начать наблюдать за природой собственных эмоций, таких как гнев или страх, а не быть их рабом.
В заключение Харари призывает к глобальному сотрудничеству. Несмотря на все риски, он сохраняет осторожный реализм: люди по своей природе добры, и наши проблемы возникают не из-за нашей сущности, а из-за того, что мы потребляем некачественную информацию.
