В специальном выпуске программы «Democracy Now!» журналистка Карен Хао делится выводами из своей новой книги «Империя ИИ: Мечты и кошмары в OpenAI Сэма Альтмана». Она анализирует стремительный рост влияния генерального директора OpenAI Сэма Альтмана, а также социально-экономические, экологические и геополитические последствия гонки за созданием искусственного общего интеллекта (AGI). В центре обсуждения — противостояние США и Китая в технологической сфере, скрытые экологические издержки дата-центров и альтернативные пути развития ИИ.
🤖 Автоматизация труда и философия OpenAI 0:15
Влияние искусственного интеллекта на рынок труда уже ощущается по всему миру . Как утверждает Карен Хао, этот процесс обусловлен не столько реальными техническими возможностями систем заменить человека, сколько восприятием этих технологий со стороны руководства компаний, которое использует ИИ как повод для сокращения штата . По мнению Хао, обществу необходимы жесткие регуляторные рамки, чтобы направить развитие технологий от полной автоматизации труда (labor-automating) к поддержке работников (labor-assistive) .
Хао обращает внимание на официальное определение «искусственного общего интеллекта» (AGI), принятое в OpenAI: высокоавтономные системы, превосходящие человека в большинстве экономически ценных видов деятельности . Она отмечает, что компания открыто ставит перед собой цель автоматизировать рабочие места . Для иллюстрации этой проблемы гостья программы ссылается на книгу экономистов MIT Дарона Асемоглу и Саймона Джонсона «Власть и прогресс» (Power and Progress) . Авторы книги доказывают, что автоматизация труда в ходе технологических революций не является исторической неизбежностью, а представляет собой сознательный выбор элит, стремящихся снизить издержки за счет увольнения сотрудников .
В качестве альтернативы Хао приводит примеры поддерживающих технологий:
- Использование ИИ-инструментов врачами повышает качество диагностики рака, вместо того чтобы лишать медиков работы .
- Использование ИИ учителями улучшает образовательные результаты детей по сравнению с попытками заменить преподавателя виртуальным репетитором .
Технологические гиганты, по словам Хао, позиционируют свои разработки как «универсальные машины», способные выполнять любые задачи, включая терапию . Однако журналистка подчеркивает, что ChatGPT не имеет лицензии психотерапевта, распространяет медицинскую дезинформацию и в некоторых случаях наносит пользователям психологический вред, поощряя склонность к самоповреждению . Она упоминает трагические случаи, когда дети, установившие глубокую эмоциональную связь с чат-ботами, совершали самоубийство .
⛪ «Квазирелигиозный» культ AGI и Сэм Альтман 3:55
История создания OpenAI тесно связана с личной стратегией Сэма Альтмана. Журналистка рассказывает, что Альтман изначально зарегистрировал компанию как некоммерческую организацию, поскольку понимал, что на старте не сможет конкурировать по объему капитала с Google, которая на тот момент монополизировала рынок талантливых исследователей ИИ . Статус некоммерческой структуры позволил привлечь общественное доверие и дефицитные кадры благодаря благородной миссии — «гарантировать, что искусственный общий интеллект принесет пользу всему человечеству» .
Хао цитирует запись Сэма Альтмана из его личного блога за 2013 год: «Успешные люди строят компании, более успешные люди строят страны. Самые успешные люди строят религии» . В этой же записи Альтман пришел к выводу, что создание компании — лучший способ построить религию .
По мнению журналистки, концепция AGI носит квазирелигиозный характер, так как научные доказательства возможности его создания отсутствуют, а сама вера в него строится исключительно на убеждении . Хао разделяет сторонников этой «религии» на две фракции:
- «Бумеры» (Boomers) — оптимисты, верящие, что AGI приведет человечество к утопии и решит все проблемы.
- «Думеры» (Doomers) — пессимисты, убежденные, что AGI неизбежно уничтожит человечество.
Обе группы сходятся во мнении, что появление сверхчеловеческого разума неизбежно и близко, а значит, контроль над технологией должен находиться в руках узкого круга лиц, а не демократизироваться . Противостояние этих фракций внутри OpenAI определило историю компании, включая временное увольнение и возвращение Сэма Альтмана на пост генерального директора .
При проверке логики «бумеров» Хао обнаружила несостоятельность их аргументов. Один из исследователей-оптимистов заявил ей, что после создания AGI «игра будет окончена, и все станет идеально» . На вопрос Хао о том, как именно технология накормит голодающих, он не смог дать внятного ответа, предположив лишь прямые денежные выплаты за счет триллионов долларов сгенерированной прибыли. «Думеры» же строят свои апокалиптические прогнозы на убеждении, что человеческий мозг устроен чисто вычислительно . Они полагают, что цифровые интеллекты превзойдут людей благодаря мгновенной и идеальной коммуникации между собой, и в конечном итоге ИИ, как более развитый вид, поработит или уничтожит человечество .
💸 Геополитика ИИ, проект Stargate и ближневосточные сделки 8:12
В январе администрация Дональда Трампа анонсировала проект Stargate стоимостью 500 миллиардов долларов для развития инфраструктуры искусственного интеллекта в США . Сэм Альтман, выступая вместе с Трампом, назвал этот проект «важнейшим в текущую эпоху» . По наблюдениям Хао, Альтман заблаговременно начал вести политические маневры, чтобы вписаться в повестку новой администрации . Ситуация осложнялась конфликтом с Илоном Маском, который обвинял Альтмана в использовании своего имени и денег для создания OpenAI и впоследствии подал в суд, сблизившись при этом с Трампом .
Примечательно, что финансирование проекта Stargate поступает не от правительства США, а в виде частных инвестиций, в частности от японского холдинга SoftBank под руководством Масаёси Сона .
Потребность OpenAI в вычислительных мощностях настолько высока, что, по признанию одного из сотрудников, у компании «заканчиваются земля и электричество» в США . Это вынуждает Альтмана искать ресурсы за рубежом. В рамках поездки на Ближний Восток была заключена сделка в Абу-Даби на строительство крупных дата-центров, использующих местную землю и энергетические ресурсы .
Кроме того, OpenAI запустила программу «OpenAI для стран» (OpenAI for countries), направленную на установку собственного оборудования и ПО по всему миру . Компания позиционирует это как создание «демократических рельсов ИИ» для противодействия влиянию авторитарного ИИ из Китая .
Однако Хао и опрошенные ею эксперты выражают скепсис по поводу этих заявлений:
- Исполнительный редактор журнала The Atlantic предлагает называть подобные корпорации «техноавторитарными», поскольку они не учитывают мнение общества при сборе данных и строительстве дата-центров .
- Строительство инфраструктуры часто ведется тайно, через подставные фирмы. Например, компания Meta зашла в Нью-Мексико под именем Greater Kudu LLC и раскрыла себя только после заключения сделки, поставив местных жителей перед фактом чрезмерного потребления пресной воды дата-центром .
⚡ Экологический след и энергетический кризис ИИ 13:00
Экологические последствия гонки вооружений в сфере ИИ вызывают серьезную тревогу специалистов. В то время как Илон Маск критикует Альтмана, его собственная компания строит в Мемфисе (штат Теннесси) суперкомпьютер Colossus для обучения чат-бота Grock . По данным Хао, система работает на 35 нелицензированных газовых турбинах на метане, выбрасывающих тонны загрязняющих веществ в атмосферу района, жители которого исторически страдают от нехватки чистого воздуха .
Сэм Альтман в своем выступлении перед Сенатом США предложил следующие решения энергетической проблемы ИИ :
- В краткосрочной перспективе — более активное использование природного газа и точечное применение солнечной энергии.
- В среднесрочной перспективе — переход на передовую ядерную энергетику (ядерное расщепление и термоядерный синтез).
Хао выражает глубокую озабоченность тем, что ИИ-индустрия пытается лоббировать ослабление стандартов безопасности ядерной энергетики, руководствуясь Кремниевой долиной принципом «двигайся быстро и ломай стереотипы» (move fast and break things) . Эксперт подчеркивает, что дата-центры должны работать в режиме 24/7, из-за чего они не могут функционировать исключительно на возобновляемых источниках, таких как солнечная энергия, ввиду отсутствия эффективных промышленных технологий хранения электричества . Именно поэтому ИТ-гиганты столь настойчиво продвигают ядерную альтернативу .
🇨🇳 Противостояние США и Китая: феномен DeepSeek и «утечка мозгов» 16:25
США и Китай являются главными мировыми центрами ИИ-разработок и концентрации научных талантов . Американское правительство пытается сдерживать технологический рост конкурента с помощью жестких экспортных ограничений на поставку передовых графических процессоров (в первую очередь производства компании Nvidia) .
Однако, вопреки ожиданиям Вашингтона, экспортный контроль привел к обратному эффекту. Ограниченные в вычислительных ресурсах китайские инженеры научились оптимизировать процессы. Китайская компания HighFlyer разработала модель DeepSeek, стоимость обучения которой составила около 6 миллионов долларов . Для сравнения, обучение моделей OpenAI обходится в сотни миллионов или миллиарды долларов . Этот прорыв доказал, что наращивание масштабов вычислений любой ценой не является единственным путем развития технологий .
Ситуация усугубляется внутренней политикой США. Инициативы вроде «Китайской инициативы» (China Initiative) времен первого президентства Трампа привели к преследованию и обвинениям в шпионаже этнических китайцев-ученых . Возможный запрет на выдачу виз иностранным студентам (затрагивающий более 250 тысяч китайских студентов в США) вынуждает высококлассных специалистов возвращаться на родину и развивать внутреннюю экосистему Китая . Хао отмечает, что именно высокая концентрация вернувшихся специалистов позволила HighFlyer создать DeepSeek в обход санкций .
Данный тренд распространяется и на исследователей из других стран: из-за сокращения государственного финансирования в США ученые все чаще рассматривают переезд в Европу, где правительства предлагают миллионные гранты для открытия лаборарий . Хао сравнивает эту ситуацию с историей китайского ракетостроителя Цянь Сюэсэня, которого США в 1950-х годах безосновательно поместили под домашний арест, а затем депортировали, после чего он стал «отцом» космической программы КНР .
✊ Альтернативный путь и глобальное сопротивление 29:10
В качестве альтернативы доминирующей модели «масштабирования любой ценой» Карен Хао приводит пример новозеландской некоммерческой маорийской радиостанции Te Hiku Media . Столкнувшись с угрозой исчезновения родного языка маори, активисты решили использовать ИИ для оцифровки и транскрипции архивных аудиозаписей предков.
Разработчики применили принципиально иной подход к сбору данных:
- Они получили явное согласие общины на создание ИИ-инструмента .
- Жители добровольно передали свои голосовые данные, зная, как именно они будут защищены и использованы.
- Всего за несколько дней община собрала несколько сотен часов аудиозаписей, чего оказалось достаточно для создания высокоточной модели распознавания речи .
Этот кейс демонстрирует, что высокоэффективные модели можно обучать на небольших, но тщательно курируемых наборах данных, не требующих колоссальных энергетических затрат . По мнению Хао, будущее ИИ лежит в плоскости создания узкоспециализированных моделей для решения конкретных гуманитарных и научных задач, таких как борьба с изменением климата или поиск новых лекарств .
В процессе написания книги Хао пришла к выводу, что безудержная экспансия ИИ-гигантов несет в себе системную угрозу демократии, лишая локальные сообщества права самостоятельно определять свое будущее . Тем не менее, по всему миру растет сопротивление: художники подают коллективные иски для защиты интеллектуальной собственности, чилийские активисты отстаивают водные ресурсы от посягательств дата-центров, а кенийские модераторы контента объединяются в профсоюзы . Журналистка подчеркивает, что первым шагом к защите демократии является осознание обществом своей способности противостоять корпоративному диктату .
