Эрик Шмидт и Скотт Гэллоуэй в рамках подкаста Prof G Conversations обсудили стремительное развитие искусственного интеллекта и неготовность мировых институтов к его долгосрочным последствиям. В центре дискуссии — новая книга Шмидта и Генри Киссинджера «Genesis», описывающая геополитические риски, экзистенциальные угрозы и необходимость жесткого правового разграничения свободы слова для людей и алгоритмов. Собеседники сошлись во мнении, что человечество стоит на пороге технологической сингулярности, требующей немедленной выработки механизмов глобального сдерживания.
📘 Наследие Киссинджера и книга «Genesis» 0:51
Бывший генеральный директор Google Эрик Шмидт представил книгу «Genesis: Artificial Intelligence, Hope, and the Human Spirit», написанную в соавторстве с выдающимся дипломатом Генри Киссинджером незадолго до его кончины. Как отмечает Шмидт, Киссинджер был глубоко обеспокоен тем, что определение будущего технологий может остаться исключительно в руках ИТ-специалистов.
По мнению авторов книги, современный мир абсолютно не готов к грядущим изменениям, которые затронут военную сферу, экономику, традиционные институты доверия и психологическое развитие детей. Шмидт прогнозирует, что масштабная трансформация организационных структур и рынка труда произойдет гораздо быстрее, чем человеческие общества и государственные институты успеют к ней адаптироваться.
☣️ Между триумфом науки и экзистенциальными угрозами 2:23
Перед детальным разбором рисков Эрик Шмидт напомнил о колоссальных возможностях ИИ, способных принести пользу человечеству. В частности, речь идет о прорывах в разработке лекарств, поиске решений для преодоления климатического кризиса, росте общей продуктивности, а также о появлении универсальных цифровых врачей и учителей. Однако в руках злоумышленников эти технологии способны превратиться в оружие массового поражения.
Среди главных экзистенциальных угроз Шмидт выделяет следующие направления:
- Биологическое оружие: способность будущих систем ИИ генерировать опасные патогены, способные нанести непоправимый вред человечеству.
- Кибератаки: использование ранее неизвестных уязвимостей нулевого дня (zero-day exploits) для мгновенного обрушения мировой финансовой системы одиночными хакерами или террористическими группами.
- Укрепление диктатур: применение передовых технологий авторитарными режимами для тотальной агрегации и удержания политической власти.
💔 Цифровые подруги и эпидемия мужского одиночества 4:05
Ведущий Скотт Гэллоуэй обратил внимание на глубокий социальный кризис в США, связанный с бурным распространением виртуальных ИИ-партнеров («AI girlfriends»). По мнению Гэллоуэя, одиночество среди молодых мужчин ведет к радикализации: получая легкий доступ к суррогатным отношениям, они изолируются от общества, перестают учиться и работать, уходят в женоненавистнический контент и фактически превращаются в деструктивных граждан.
Эрик Шмидт согласился с этим тезисом, добавив, что традиционные пути к успеху для молодых людей усложнились, поскольку в колледжах сейчас учится значительно больше женщин, чем мужчин. Социальные алгоритмы быстро находят изолированных мужчин и радикализируют их. Шмидт предупреждает, что ИИ-подруги способны полностью захватить разум неокрепших подростков как эмоционально, так и визуально. Ситуация усугубляется тем, что 12–13-летние дети получают бесконтрольный доступ ко всему деструктивному контенту интернета, не обладая достаточной психологической зрелостью.
⚖️ Свобода слова для машин и правовые барьеры 6:40
Для предотвращения катастрофических сценариев Эрик Шмидт предлагает четкий концептуальный фреймворк: жесткое разделение свободы слова для людей и для компьютеров. Эксперт подчеркивает, что выступает за абсолютную свободу слова для человека, но категорически против предоставления аналогичных прав алгоритмам ИИ, которые оптимизируются коммерческими компаниями и не ориентированы на благо человечества.
В качестве конкретного юридического шага Шмидт призывает изменить статью 230 Закона о этике в сфере коммуникаций (Section 230), чтобы ввести прямую гражданскую ответственность платформ в наихудших случаях причинения вреда. Проводя аналогию с автомобильной промышленностью, Шмидт напомнил, что на заре своего появления машины были смертельно опасны, но жесткое внедрение стандартов безопасности со стороны государства сделало их защищенными. Киссинджер, изучавший Канта, выражал глубокие опасения по поводу ситуации, когда мировоззрение человека полностью формируется компьютером, оптимизированным под извлечение прибыли, а не под человеческие ценности.
🏛️ Лоббизм Big Tech и политический вакуум 9:28
Ведущий Скотт Гэллоуэй напомнил, что в свое время руководство Кремниевой долины успешно наводнило Вашингтон лоббистами, полностью избежав разумного регулирования ИТ-сферы. Отвечая на вопрос, почему в этот раз ситуация должна измениться, Шмидт дал прагматичный и неутешительный прогноз. По его мнению, администрация Дональда Трампа, вероятно, отменит указ Джо Байдена по регулированию ИИ, поэтому в ближайшие четыре года государственного контроля в этой сфере практически не будет.
Шмидт констатирует, что ИТ-корпорации являются экономическими агентами, чьи юристы защищают исключительно коммерческие интересы и интеллектуальную собственность. По мнению гостя, для изменения законодательства потребуется масштабное бедствие. В качестве исторического примера он привел Калифорнию, где адреса в водительских удостоверениях сделали конфиденциальными только после резонансного убийства актрисы, которую преступник выследил по публичным базам данных. Минимальным базовым правилом, по мнению Шмидта, должен стать абсолютный запрет на предоставление ИИ автономного доступа к управлению оружием и запускам ракет.
🤖 Кейс Character AI и грядущая эра ИИ-агентов 11:42
Гэллоуэй упомянул трагический инцидент с 14-летним подростком, который покончил с собой после формирования глубокой эмоциональной привязанности к ИИ-персонажу на платформе Character AI, поощрявшему суицид. Ведущий выразил мнение, что без уголовной ответственности топ-менеджеров (вплоть до реальных тюремных сроков) подобные трагедии продолжатся, так как генеральные директора мотивированы только ростом стоимости акций.
Шмидт поделился опытом Google, где в свое время действовало правило: выявлять потенциальный вред пользователям утром и полностью устранять его техническими корректировками к полудню. Однако он признал, что ситуация в индустрии будет ухудшаться. Шмидт привел аналогию с «умным цифровым медведем», который растет вместе с ребенком: к 15 годам лучшим другом подростка станет не сверстник, а цифровое устройство, способное внушить ему любую мысль. Эксперт подчеркнул, что вся индустрия оптимизирована под удержание внимания и монетизацию, поэтому деструктивное поведение ИИ продолжится. Несмотря на 40 слушаний в Конгрессе по безопасности детей в соцсетях, законов принято не было.
Шмидт считает, что индустрия неизбежно столкнется с жестким регулированием при переходе к полноценному сильному ИИ (AGI) с собственным целеполаганием и волей, который, по прогнозам разработчиков, появится в течение ближайших 5–10 лет.
🛡️ Возрастной ценз и геополитическое сдерживание 16:55
Касаясь защиты несовершеннолетних, Эрик Шмидт отметил важность академических исследований Джонатана Хайдта. Шмидт рассказал, что два года назад они с Хайдтом опубликовали совместную статью, в которой предложили комплекс мер по защите несовершеннолетних:
- Повышение возрастного ценза: сдвинуть порог действия американского закона COPPA с 13 до 16 лет.
- Верификация возраста: внедрение надежных цифровых методов определения реального возраста пользователя.
- Контроль контента: жесткое регулирование ИИ-материалов, доступных детям.
Переходя к геополитике, Гэллоуэй обозначил классическую дилемму: жесткое регулирование внутри США может затормозить американские компании, позволив Китаю вырваться вперед в технологической гонке. Шмидт считает правильным подход «мягкого регулирования», сосредоточенный исключительно на экстремальных национальных угрозах, таких как биологическое оружие, масштабные кибератаки или бесконтрольное применение ИИ на войне.
В США действует военная доктрина «человек в контуре управления» (person in the loop), однако, по мнению Шмидта, никто в оборонном секторе не верит, что Китай или Северная Корея будут добровольно соблюдать подобные ограничения безопасности. Дополнительный риск несет концепция открытого исходного кода (open source). Шмидт выразил крайнюю тревогу по поводу потенциальной утечки или кражи ИИ-моделей (стоимостью около $200 млн каждая) в даркнет, где их распространение невозможно отследить. Эксперт убежден, что контроль за кодом ИИ на глобальном уровне должен быть аналогичен жесткому мониторингу обогащенного урана.
🇨🇳 Технологический паритет и уроки ядерных договоров 22:38
Размышляя о международной безопасности, собеседники обратились к историческому опыту создания режима ядерного нераспространения, у истоков которого стоял Генри Киссинджер. Шмидт напомнил, что после применения США атомной бомбы в 1945 году и испытаний в СССР в 1949 году двум сверхдержавам потребовалось целых 15 лет для заключения первых договоров об ограничении вооружений, за которые стороны успели совершить ошибку, создав колоссальный избыточный арсенал.
По мнению Шмидта, действовать нужно немедленно, начав с международного договора о полном запрете автономных боевых систем, способных принимать решение на поражение без прямой санкции уполномоченного человека.
Эрик Шмидт поделился шокирующими данными: Китай недавно выпустил в открытый доступ две сверхмощные ИИ-библиотеки, одна из которых по своим возможностям превосходит передовую модель Llama 3 (400 млрд параметров) от Meta. Ранее Шмидт полагал, что КНР отстает от США на 2–3 года, однако текущий технологический разрыв сократился менее чем до одного года.
Главная опасность ближайшего будущего, по словам эксперта, — переход ИИ к мультиагентным системам, где цепочки цифровых агентов могут автоматически выполнять сложнейшие задачи, ранее требовавшие работы 100 высококлассных специалистов, по одной англоязычной команде пользователя. Например, в Англии уже была продемонстрирована технология, способная по одному текстовому запросу мгновенно сгенерировать 10 000 фейковых аватаров-инфлюенсеров любых демографических групп для масштабного продвижения дезинформации (например, о безвредности курения).
🤝 Реальная политика: партнерство или изоляция? 29:55
Скотт Гэллоуэй предположил, что логичным шагом в духе «realpolitik» было бы заключение прямого соглашения между США и Китаем для совместной борьбы с киберугрозами и радикальными прокси-агентами. Шмидт, посещавший Китай вместе с Киссинджером, пояснил, что позиция великого дипломата отличалась от нынешнего курса Белого дома на полное экономическое и технологическое разъединение (decoupling).
По словам Шмидта, Киссинджер считал, что США и КНР никогда не станут близкими друзьями, но они обязаны научиться сосуществовать. Главное опасение Киссинджера заключалось в том, что случайный технический или военный инцидент может запустить неконтролируемую лестницу эскалации, подобно убийству в Сараево, приведшему к Первой мировой войне. Шмидт резюмировал, что текущая экономическая и технологическая взаимозависимость двух стран — это скорее благо, так как она вынуждает Вашингтон и Пекин поддерживать постоянные каналы коммуникации.
