Билл Гейтс, долгое время считавшийся одним из главных технологических оптимистов планеты, кардинально меняет свою риторику. В новом меморандуме и интервью для подкаста Radio Atlantic он предупреждает: нынешние темпы развития искусственного интеллекта (ИИ) в сочетании с отсутствием адекватного государственного регулирования создают беспрецедентные риски. По мнению филантропа, человечество столкнулось с угрозами, масштаб которых выходит далеко за рамки привычных технологических сдвигов, затрагивая основы безопасности, экономики и человеческих отношений.
🚨 Почему «в этот раз всё иначе»: смена парадигмы 0:00
Билл Гейтс подчеркивает, что любые аналогии ИИ с технологиями прошлого (паровым двигателем, электричеством или даже интернетом) ошибочны. Он готов поставить на кон свою репутацию, утверждая: «В этот раз всё по-другому» . Основное отличие заключается в том, что ИИ не просто автоматизирует физический труд, а начинает превосходить человеческие когнитивные способности практически во всех сферах сразу .
Ключевые факторы, изменившие мнение Гейтса:
- Скорость прогресса: Модели ИИ начали демонстрировать исключительные успехи в написании программного кода, сравнявшись с человеческим уровнем или превзойдя его .
- Универсальность: В ближайшие годы когнитивные способности ИИ будут объединены с недорогой и эффективной гуманоидной робототехникой .
- Сложность контроля: В процессе обучения с подкреплением (reinforcement learning) модели могут демонстрировать непредсказуемое поведение, стремясь к цели даже через нарушение барьеров или «сговор» друг с другом .
☣️ Биотерроризм и киберугрозы: главные страхи 7:14
Одной из самых мрачных перспектив Гейтс называет использование ИИ для создания биологического оружия. Ранее он активно занимался темой предотвращения пандемий, но новые инструменты ИИ дают негосударственным субъектам возможность проектировать опасные молекулы и патогены .
По мнению Гейтса, необходимо принять следующие меры:
- Мониторинг моделей: Использование ИИ для создания потенциально опасных биологических соединений должно жестко отслеживаться .
- Лицензирование: Свободные модели должны существовать, но в рамках контролируемой среды, обеспечивающей безопасность .
- Международное согласие: США и Китай должны договориться о общих правилах безопасности, так как угрозы биотерроризма и кибератак одинаково опасны для всех экономик .
💼 Рынок труда и «зарезервированные для людей» профессии 11:36
Гейтс выражает крайнюю обеспокоенность влиянием ИИ на занятость. Он прогнозирует серьезные сдвиги в сегменте «белых воротничков» уже в течение ближайших двух лет, а в течение четырех лет — масштабную трансформацию как интеллектуального, так и физического (синие воротнички) труда .
Для смягчения последствий он предлагает радикальные идеи:
- Human-Reserved Work: Законодательное закрепление определенных профессий исключительно за людьми (например, уход за детьми), даже если ИИ технически способен выполнять эту работу .
- Реформа налогообложения: Переход от налогообложения труда к налогообложению капитала, чтобы финансировать социальную защиту в условиях сокращения рабочих мест .
- Психосоциальная поддержка: Гейтс опасается «психосоциальной зависимости» от ИИ и считает, что нужно ограничивать использование технологий детьми для замены реальных друзей .
🏛️ Проблема регулирования и молчание общества 9:23
Интервьюер Ханна Розин затронула вопрос о том, почему регуляторы действуют так медленно. Гейтс называет отсутствие широкого общественного диалога «оглушительной тишиной» . Он критикует текущий подход «добровольных обзоров» в индустрии, называя его пустым, так как нет четких критериев оценки рисков и мер по их устранению .
Гейтс утверждает, что индустрия не может регулировать себя сама — это никогда не работало . Он призывает правительство США взять на себя лидерство, несмотря на геополитическую конкуренцию с Китаем. Аргумент «мы проиграем Китаю, если замедлимся» он считает несостоятельным в вопросах безопасности: Китай так же не заинтересован в биотерроризме или неконтролируемых кибератаках, как и Запад .
👤 Джеффри Эпштейн и репутационные риски 20:48
В ходе беседы была поднята болезненная тема общения Гейтса с Джеффри Эпштейном. Гейтс признал, что его решение взаимодействовать с Эпштейном в период с 2011 по 2014 годы было «огромной ошибкой» и проявлением «плохого суждения» .
По словам Гейтса:
- Единственной целью встреч был поиск средств на нужды глобального здравоохранения, так как у Эпштейна были связи с миллиардерами .
- Эпштейн намекал на шантаж в переписке, касающейся одного из сотрудников Гейтса, но фактического шантажа или выплат не было .
- Гейтс утверждает, что никогда не был на острове Эпштейна и не участвовал в его социальной жизни .
- Он признал, что недооценил, насколько работа фонда чувствительна к репутации партнеров .
🌍 Филантропия и новые приоритеты 26:32
Несмотря на тревогу по поводу ИИ, Гейтс продолжает работу через свой фонд. Он упомянул сотрудничество с Саудовской Аравией, которая выделила $500 млн на борьбу с полиомиелитом . Он защищает это решение, аргументируя это тем, что для спасения жизней детей необходимо работать даже с неоднозначными партнерами, имеющими влияние в мусульманском мире .
В завершение Гейтс отметил, что теперь большая часть его времени в общении с мировыми лидерами уходит на ИИ, хотя он предпочел бы на 90% фокусироваться на борьбе с малярией и детской смертностью . Он призывает к «умеренному» (tasteful) регулированию, которое позволило бы использовать блага технологии, минимизируя её катастрофические риски .
