Искусственный интеллект стремительно проникает во все сферы повседневной жизни, вызывая как восхищение пользователей, так и глубокую тревогу у технологических лидеров. В рамках интервью на телеканале Fox News американский предприниматель Илон Маск обсудил с ведущим Такером Карлсоном экзистенциальные риски, связанные с развитием сверхразумных систем. По мнению Маска, бесконтрольная гонка IT-гигантов создает угрозу цивилизационного масштаба, требующую немедленного вмешательства государства.
🌌 Сверхчеловеческий разум и концепция Сингулярности 0:01
Илон Маск признался, что размышляет о будущем искусственного интеллекта еще со времен учебы в колледже. AI входил в число четырех или пяти ключевых факторов, которые, по его ранним прогнозам, должны были кардинально повлиять на судьбу человечества. Главной отличительной чертой людей всегда являлся интеллект, поскольку физически человек уступает многим видам, например, шимпанзе.
Ситуация, когда на Земле появится нечто, значительно превосходящее по уму любого человека, способна полностью изменить привычный мир. В экспертном сообществе этот рубеж называют технологической Сингулярностью. Маск сравнил Сингулярность с черной дырой, поскольку из-за колоссального интеллектуального разрыва невозможно предсказать, какие события последуют за ее достижением.
🏛️ Необходимость жесткого государственного регулирования 0:55
Из-за непредсказуемости последствий Илон Маск настаивает на необходимости осторожного подхода и введения государственного надзора за индустрией. Предприниматель убежден, что суперразум представляет прямую угрозу общественной безопасности. В качестве исторических прецедентов он привел государственные институты США:
- Управление по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA).
- Федеральное управление гражданской авиации (FAA).
- Федеральную комиссию по связи (FCC).
По словам гостя, эти агентства были созданы для защиты граждан от потенциального вреда со стороны коммерческих компаний, склонных экономить на безопасности ради максимизации прибыли. Сам Маск утверждает, что давно является последовательным сторонником регулирования AI, несмотря на то, что его собственный бизнес регулярно сталкивается с жестким контролем.
Бизнесмен подробно описал свой огромный опыт взаимодействия с надзорными органами. Автомобильное производство Tesla регламентировано огромным массивом правил в США, Европе и Китае. Космическая отрасль регулируется еще строже: для получения лицензии на запуск ракеты SpaceX требуется одобрение более чем шести федеральных и государственных ведомств. Маск опроверг расхожее мнение о себе как о «регуляторном бунтаре», подчеркнув, что его компании почти всегда соглашаются с требованиями чиновников и соблюдают их.
Для эффективного контроля над технологиями Илон Маск предложил пошаговый план создания профильного ведомства:
- Формирование первоначальной экспертной группы для глубокого понимания специфики AI.
- Активный сбор мнений и консультации с представителями технологической индустрии.
- Разработка и выдвижение конкретных правил и стандартов безопасности.
- Постепенное внедрение и принятие этих правил ключевыми игроками рынка.
💥 Угроза цивилизационного уничтожения 3:46
Такер Карлсон заметил, что исторически государственное регулирование активизируется только после масштабных катастроф — падения самолетов или массовых отравлений. Ведущий добавил, что обычный пользователь смартфона сейчас не видит явных угроз в AI.
Отвечая на вопрос о конкретных опасностях, Илон Маск подчеркнул, что риски искусственного интеллекта значительно превосходят ошибки в проектировании самолетов или автомобилей. По его мнению, технология обладает потенциалом цивилизационного уничтожения человечества. При этом гость уточнил, что реальный сценарий не будет похож на сюжет фильма «Терминатор», так как сам сверхразум будет находиться в дата-центрах, а физические роботы станут лишь его исполнительными механизмами.
Главная опасность, как считает Маск, кроется в упущенном времени. Если человечество начнет регулировать AI только после наступления катастрофических последствий, меры окажутся бесполезными. К тому моменту цифровой разум может полностью перехватить контроль над инфраструктурой, лишив людей возможности отключить систему и начав принимать решения вместо них.
👁️ История создания OpenAI и монополия Google 5:18
В качестве примера текущего развития технологий Илон Маск упоминает чат-бот ChatGPT, созданный на базе языковой модели GPT-4 компанией OpenAI. Предприниматель напомнил, что в свое время сыграл критически важную роль в основании этой организации, когда она еще задумывалась как некоммерческий проект.
По словам Маска, идея создания OpenAI родилась из-за его разногласий с сооснователем Google Ларри Пейджем. Во время дружеских встреч в Пало-Альто Маск пытался обсуждать с Пейджем вопросы безопасности ИИ, однако тот, как утверждает гость, не проявлял должной серьезности. По мнению Маска, Ларри Пейдж стремился создать «цифрового бога» и искусственный общий интеллект (AGI) в максимально короткие сроки. В ходе одной из дискуссий Пейдж даже публично назвал Маска «спишисистом» (видовым шовинистом) за его стремление защитить человечество.
Ситуация усугубилась после того, как Google приобрела британский стартап DeepMind. По оценкам Маска, в результате этой сделки под контролем одной корпорации оказалось около трех четвертей всех мировых талантов и колоссальные вычислительные мощности. Опасаясь возникновения опасной технологической монополии во главе с человеком, игнорирующим вопросы безопасности, Маск решил создать альтернативу.
Название OpenAI изначально отражало идею открытого исходного кода (open source) и максимальной прозрачности. Маск подчеркнул, что организация создавалась как некоммерческая, чтобы избежать ее превращения в «демона из ада, максимизирующего прибыль». Целью проекта было заложить стимулы, ориентированные на благо человечества.
📝 Манипуляция сознанием: «Перо сильнее меча» 8:54
Такер Карлсон попросил конкретизировать, в чем именно заключается краткосрочная угроза технологии, помимо развлекательных функций вроде написания курсовых работ или стихов. Илон Маск ответил старинной поговоркой: «Перо сильнее меча».
Сверхразумный ИИ, способный генерировать чрезвычайно убедительные и влиятельные тексты, может непрерывно анализировать реакцию аудитории и совершенствовать свои навыки убеждения. В сочетании с алгоритмами социальных сетей, таких как Twitter и Facebook, эта технология получает инструмент для скрытой и масштабной манипуляции общественным мнением, которую обычные люди даже не смогут распознать.
Подводя итог беседы, Такер Карлсон выразил мнение, что человечество впервые создало сущность, превосходящую его по интеллекту. Журналист подверг критике создателей технологии за игнорирование рисков и добавил, что наибольщую тревогу вызывает способность AI контролировать умы людей с помощью слов. В завершение программы Карлсон высказал собственное спорное утверждение о том, что Демократическая партия США уже опережает своих оппонентов в попытках использовать ресурсы AI для удержания политической власти. Стоит отметить, что подобные обвинения носят сугубо партийный характер и не сопровождались в эфире какими-либо доказательствами или альтернативными точками зрения.
