Телеканал CNN посвятил экстренный эфир обсуждению беспрецедентного шага компании Anthropic, которая отложила публичный релиз своей новейшей ИИ-модели из соображений глобальной кибербезопасности. В дискуссии приняли участие ведущие Андерсон Купер и Борис Санчес, колумнист The New York Times Томас Фридман, а также приглашенный эксперт. В центре внимания оказались катастрофические риски ИИ как инструмента для хакеров и радикальные экономические реформы, предлагаемые Кремниевой долиной для предотвращения массовой безработицы.
🛡️ Опасный инструмент для хакеров: почему Anthropic сдерживает релиз 0:00
Американская ИИ-компания Anthropic приняла решение временно отказаться от полноценного публичного релиза своей новейшей и наиболее продвинутой модели искусственного интеллекта под кодовым названием Claude Mythos. Как отмечают специалисты, эта версия обладает уникальной способностью с высокой точностью выявлять скрытые уязвимости в самых разнообразных программных приложениях. С одной стороны, подобная технология является колоссальным прорывом для сферы кибербезопасности, позволяя разработчикам оперативно защищать свои продукты. С другой стороны, её свободное распространение несет в себе критическую угрозу, если инструмент попадет в руки киберпреступников, шпионов или враждебных государств для взлома глобальных систем.
На текущем этапе Anthropic сделала эту систему доступной исключительно для ограниченного круга крупнейших технологических гигантов, чтобы те могли протестировать её в закрытом режиме и улучшить внутренние защитные протоколы. По мнению экспертов, если подобный ИИ окажется в бесконтрольном доступе, последствия для мировой инфраструктуры могут стать по-настоящему катастрофическими. Известный публицист и колумнист газеты The New York Times Томас Фридман в своей статье охарактеризовал это решение компании как «пугающий предупреждающий знак» для всего человечества.
Как утверждает Фридман, мир подошел к фундаментальной исторической развилке. Он убежден, что появление технологий такого уровня сопоставимо с возникновением концепции взаимного гарантированного уничтожения (MAD) в эпоху холодной войны и последующей необходимостью жесткого контроля за нераспространением ядерного оружия.
🦏 Кремниевая угроза: «ядерный базука» в руках каждого 1:03
Комментируя масштаб угрозы, Томас Фридман напомнил, что вся современная глобальная экономика полностью завязана на программном обеспечении. Жизнеобеспечение мегаполисов, системы водоснабжения, авиалинии, аэропорты, транспортные сети и телекоммуникации крупнейших государств работают под управлением операционных систем, которые тесно переплетены друг с другом. В этих условиях появление ИИ, умеющего не просто виртуозно писать программный код, но и находить в чужих системах глубоко запрятанные ошибки, меняет правила игры.
Согласно официальному заявлению компании Anthropic, некоторые уязвимости, которые новая модель обнаружила в существующем софте, оставались незамеченными на протяжении десятилетий. Они успешно пережили бесчисленные раунды проверок живыми программистами и миллионы автоматизированных тестов безопасности, что Фридман называет «поражающим воображение» фактом.
По мнению Фридмана, распространение такой технологии сотрет барьеры для входа в сферу высокотехнологичного кибертерроризма. Он сравнивает это с гипотетическим миром, где любой случайный человек получает доступ к «ядерному базуке». Атаки, которые раньше требовали колоссальных бюджетов и были под силу только элитным спецслужбам или правительственным агентствам, теперь становятся крайне дешевыми и доступными абсолютно каждому.
Фридман ссылается на своего технологического партнера и советника Крейга Манди (Craig Mundy), который считает, что возможности искусственного интеллекта развиваются гораздо быстрее, чем способно осознать общество. По словам Манди, человечество сейчас занимается не созданием очередного цифрового помощника, а буквально «выводит новый биологический вид». Этот вид базируется на кремнии, а не на углероде, но он обладает интеллектом, и людям придется научиться жестко контролировать его и выстраивать рамки сотрудничества, пока новая сущность не превратила человека в своего «домашнего питомца».
🌐 Вынужденный союз: почему США и Китай обречены на сотрудничество 3:19
Компания Anthropic, основанная бывшими топ-менеджерами OpenAI Дарио Амодеи и его сестрой, традиционирует позиционировать себя как самый ориентированный на безопасность (safety-forward) игрок на рынке ИИ. Однако силами одной коммерческой организации или даже одной администрации в Вашингтоне проблему контроля не решить.
Томас Фридман заявляет, что человечество столкнулось с принципиально новым вызовом. Он описывает эволюцию глобализации: если на заре его журналистской карьеры мир был просто «соединенным» (connected), а затем стал «взаимосвязанным» (interconnected), то сегодня он превратился во «взаимозависимый» (interdependent). Фридман цитирует своего наставника Дова Сидмана (Dov Seidman):
«Взаимозависимость — это больше не наш выбор. Это наше условие».
Из этого тезиса колумнист делает вывод, что ни одна корпорация и ни одна страна не способны изолированно защититься от киберугроз нового поколения. Рано или поздно двум главным технологическим супердержавам — США и Китаю — придется сесть за стол переговоров, чтобы выработать общие жесткие правила игры. Им придется научиться одновременно конкурировать в экономике и кооперироваться в сфере ИИ.
Многие критики называют идею технологического альянса США и Китая излишне наивной в текущих геополитических реалиях. Однако Фридман парирует это возражение: по его мнению, гораздо более наивно думать, будто мы выживем без такого договора. Он утверждает, что и Вашингтон, и Пекин будут в равной степени колоссально уязвимы перед внутренними преступными группировками, вооруженными ИИ-оружием, и эта внутренняя угроза стабильности будет гораздо страшнее, чем любые внешние военные риски со стороны геополитического соперника. Человечество получило «божественные технологии» сверхинтеллекта, но забыло сформулировать для них «Десять заповедей», которые теперь необходимо срочно писать совместно со своими главными оппонентами.
🏦 «Новый курс» OpenAI: социализм от Кремниевой долины 6:42
На фоне этих тревог компания OpenAI также обратилась к правительствам с призывом ввести «здравомыслящее государственное регулирование» сферы ИИ. Вторая часть эфира CNN была посвящена анализу истинных мотивов этого шага и конкретных предложений компании.
Как отмечает ведущий Борис Санчес, американский Конгресс исторически движется крайне медленно, когда дело касается регулирования прорывных технологий. Приглашенный эксперт выразился еще жестче, заявив, что законодатели находятся «в полной растерянности» (at sea) и абсолютно недееспособны в оценке масштабов грядущих изменений. В эфире вспомнили экс-кандидата в президенты Эндрю Янга (Andrew Yang), который строил свою кампанию на предупреждениях о том, что ИИ уничтожит миллионы рабочих мест, и предлагал ввести безусловный базовый доход. Тогда над его идеями смеялись, но сегодня, по замечанию гостя, Янг имеет полное право праздновать свою пророческую правоту.
Масштаб потрясений на рынке труда признают и сами создатели ИИ. OpenAI выдвинула пакет радикальных предложений для адаптации экономики к новой реальности:
- Введение 4-дневной рабочей недели для населения без какой-либо потери в заработной плате.
- Формирование национального Суверенного фонда благосостояния, который распределял бы дивиденды от технологического прогресса среди обычных работников, теряющих доходы.
- Полный перенос налоговой нагрузки с доходов от труда (payroll tax) на налоги с прироста капитала и корпоративной прибыли.
Последний пункт обусловлен тем, что, по прогнозам аналитиков OpenAI, традиционные зарплаты граждан больше не смогут обеспечивать наполнение государственного бюджета. Основной массив денежных средств будет централизованно «всасываться» крупнейшими корпорациями, автоматизировавшими процессы.
Тем не менее, приглашенный эксперт выразил скепсис относительно искренности альтруизма технологических гигантов. По мнению гостя, столь громкие заявления OpenAI призваны отвлечь внимание медиа и регуляторов от крайне неприятного и скандального расследования, опубликованного журналом The New Yorker в отношении компании и методов Сэма Альтмана. Попытка OpenAI представить свои инициативы как аналог «Нового курса» Рузвельта выглядит парадоксально: администрация Рузвельта боролась с уже наступившей Великой депрессией, в то время как OpenAI предлагает план спасения от депрессии, которую сама же и провоцирует. Гость назвал такую позицию ИИ-индустрии «порочной круговой логикой».
🦜 Сверхразум или просто «умный попугай»: где реальный кризис? 8:39
Особое внимание в дискуссии было уделено терминологии, которой оперирует руководство OpenAI. Сэм Альтман регулярно пугает и одновременно интригует публику термином «суперинтеллект» — точкой развития, когда ИИ станет умнее всего человечества вместе взятого.
Однако приглашенный эксперт CNN подчеркнул, что многие технические специалисты, включая бывших сотрудников OpenAI и Anthropic, совершенно не убеждены в близости этого момента. По слова гостя, современная наука сейчас даже близко не стоит на пути к созданию полноценного всеведущего электронного мозга, управляющего планетой. Текущие ИИ-системы — это, по сути, лишь «очень умные попугаи» (very smart parrot), способные генерировать свадебные клятвы или писать анекдоты, но лишенные подлинного сознания.
Тем не менее, как сошлись во мнении участники программы, отсутствие полноценного сверхразума не отменяет реального экономического кризиса. Массовое замещение рабочих мест, тектонические сдвиги в профессиях и нарастающая экзистенциальная тревога среди населения происходят прямо сейчас. И именно этот текущий психологический и социальный надлом требует немедленного национального ответа, независимо от того, насколько правы футурологи в своих прогнозах о цифровом будущем.
