Компания Anthropic приняла решение ограничить публичный доступ к своей новейшей модели искусственного интеллекта из-за серьезных рисков безопасности. Программное обеспечение, способное обнаруживать критические уязвимости в коде, рассматривается экспертами как инструмент с двойным назначением: способный как усилить киберзащиту, так и стать мощным оружием в руках киберпреступников.
⚠️ Новая угроза цифровой эры 0:00
Компания Anthropic ограничила релиз своей новейшей модели ИИ для широкой публики. Система продемонстрировала способность находить уязвимости в самых разных программных продуктах, что несет в себе как огромный потенциал для улучшения кибербезопасности, так и колоссальную опасность, если технология попадет к злоумышленникам. В настоящее время доступ к системе предоставлен лишь избранным крупным технологическим компаниям для тестирования и укрепления собственных систем.
Томас Фридман, журналист и автор, в своей колонке для The New York Times охарактеризовал сдержанность Anthropic как «пугающий предупреждающий знак». По его словам, текущая ситуация — это поворотный момент, сопоставимый с появлением ядерного оружия и необходимостью контроля над его распространением.
Фридман подчеркивает риски глобальной зависимости от технологий:
- Мировая экономика, включая системы водоснабжения, авиаперевозки, транспорт и телекоммуникации, полностью зависит от программного обеспечения.
- Новый ИИ не просто пишет код, он с невероятной эффективностью находит в нем ошибки — как в собственном, так и в чужом.
- Появление такого инструмента делает киберугрозы, которые ранее требовали огромных затрат и ресурсов спецслужб, доступными и дешевыми для любого желающего.
Согласно данным Anthropic, программа обнаружила уязвимости, которые успешно скрывались десятилетиями, несмотря на человеческий контроль и миллионы автоматизированных тестов. Как отмечает Фридман со ссылкой на своего технологического партнера Крейга Манди, человечество создает не просто инструмент, а «новый вид» — кремниевую форму жизни, которую придется научиться контролировать, прежде чем она сделает людей своими «питомцами».
🌐 Глобальная взаимозависимость и «новые 10 заповедей» 3:19
В условиях отсутствия у текущей администрации США активного интереса к жесткому регулированию ИИ, роль Anthropic и её основателя Дарио Амодеи, известного своим вниманием к безопасности, становится ключевой.
Томас Фридман утверждает, что человечество столкнулось с фундаментально новой проблемой: мир перешел от простого «взаимодействия» (interconnectedness) к «взаимозависимости» (interdependence).
- Взаимозависимость стала условием существования: человечество либо поднимется, либо упадет вместе.
- Ни одна компания или страна в одиночку не сможет решить проблемы кибербезопасности и развития ИИ.
- США и Китай, как две ведущие технологические сверхдержавы, неизбежно будут вынуждены договариваться о правилах сотрудничества и конкуренции.
По мнению Фридмана, позиция тех, кто считает идею альянса США и Китая в этой сфере наивной, ошибочна. Наивным он называет убеждение, что страны смогут справиться в одиночку, в то время как обе державы останутся уязвимыми перед лицом киберпреступников. Он настаивает на необходимости выработки своеобразных «новых 10 заповедей» — свода этических и регуляторных норм как для людей, так и для создаваемого ими «сверхразумного существа».
🏛 Реакция на вызовы и роль OpenAI 6:42
В ходе обсуждения также была затронута роль OpenAI, призывающей правительства к внедрению здравого регулирования ИИ. Однако эксперты скептически оценивают способность Конгресса быстро реагировать на технологические изменения, называя его работу «медлительной».
Обсуждая инициативы, подобные тем, что озвучивал Эндрю Янг, а теперь поддерживают некоторые представители ИИ-индустрии, Фридман выделяет следующие идеи, обсуждаемые в контексте будущего «ИИ-экономики»:
- Переход на четырехдневную рабочую неделю без потери уровня оплаты труда.
- Создание суверенного фонда благосостояния для распределения дивидендов среди работников.
- Кардинальное изменение системы налогообложения: правительству предлагается перестать опираться на подоходный налог с зарплат и переключиться на налоги на капитал и корпоративную прибыль, поскольку основные доходы будут концентрироваться в крупных ИИ-корпорациях.
Отвечая на вопрос о близости появления «сверхразума» (суперинтеллекта), Фридман выразил сомнение в том, что мы близки к этому моменту. По его мнению, современные модели — это, по сути, «очень умные попугаи», которые могут писать стихи или шутки, но не являются всезнающим разумом. Однако, подчеркивает он, проблема реальной угрозы рабочим местам и рост человеческой тревожности уже являются свершившимся фактом.
