Голос сенатора Ричарда Блюменталя, открывший слушания в Конгрессе, никогда ему не принадлежал — это была пугающе точная имитация, созданная нейросетью. За этим перформансом последовал беспрецедентный призыв от самих архитекторов ИИ: ограничить их мощь государственными лицензиями, подобно надзору за ядерными реакторами. Пока корпорации спорят о «точном регулировании», мир входит в эпоху «поддельных людей», где право судиться с алгоритмом может стать главной гражданской свободой.
🎙️ Голос из машины: Этические дилеммы и концепция «точного регулирования» 1:06
Слушания в Сенате США по вопросам надзора за искусственным интеллектом начались с момента, который больше напоминал эпизод научно-фантастического сериала, чем официальное государственное мероприятие. Сенатор Ричард Блюменталь открыл заседание речью, которая звучала абсолютно привычно для его избирателей: в ней говорилось об эксплуатации персональных данных, алгоритмических искажениях и угрозе общественному доверию. Однако через минуту последовало разоблачение: этот голос не принадлежал сенатору, а текст не был им написан .
Все услышанное было продуктом технологий клонирования голоса, обученных на реальных выступлениях Блюменталя, а текст сгенерировал ChatGPT по запросу «как бы сенатор открыл эти слушания» . Этот эксперимент стал наглядной демонстрацией того, насколько глубоко ИИ может мимикрировать под человека, создавая идеальные, но абсолютно фальшивые образы.
Угроза идентичности: Клонирование голоса как политическое оружие 1:06
Использование ИИ для имитации человеческого голоса стало центральной темой вступительной части. Блюменталь подчеркнул, что хотя результат эксперимента выглядел любопытным или даже забавным, его последствия могут быть катастрофическими. Основной риск заключается в возможности создания правдоподобных подделок, которые могут быть использованы для дезинформации глобального масштаба.
Сенатор задал риторический вопрос: что, если бы нейросеть заставила его «голос» призвать к капитуляции Украины или поддержать политику Владимира Путина? . Такая перспектива была названа «пугающей» (scary) — термин, который ранее использовал и сам Сэм Альтман (Sam Altman), признавая риски своих разработок . В ходе обсуждения было отмечено, что мы стоим на пороге новой эры, где GPT-4 вскоре будет восприниматься так же, как мы сегодня смотрим на громоздкие первые сотовые телефоны — как на примитивное начало чего-то колоссального .
В контексте этих рисков сенатор Хоули позже сравнил масштаб инноваций ИИ с изобретением интернета или даже печатного пресса . Однако он также провел параллель с атомной бомбой, подчеркнув, что технологический прорыв может нести в себе как небывалое процветание, так и ужасающие последствия, которые будут преследовать человечество десятилетиями . Участники дискуссии вскользь коснулись темы влияния на рынок труда и потенциального исчезновения миллионов рабочих мест , но основной фокус остался на необходимости создания защитных барьеров.
Концепция «точного регулирования» (Precision Regulation) 23:20
Когда слово перешло к свидетелям, Кристина Монтгомери (Christina Montgomery), представляющая IBM, представила стратегический взгляд на то, как государство должно взаимодействовать с этой технологией. IBM настаивает на отказе от попыток регулировать ИИ как некую единую абстрактную сущность. Вместо этого была предложена концепция «точного регулирования» (Precision Regulation) .
Суть этого подхода заключается в регулировании не самой технологии, а конкретных способов её применения. Монтгомери подчеркнула, что ИИ — это инструмент, и правила должны зависеть от уровня риска, который несет конкретный сценарий использования для общества.
IBM предлагает четыре столпа «точного регулирования»:
- Дифференцированные правила для разных уровней риска: Самое жесткое регулирование должно применяться только к тем случаям, где ИИ напрямую влияет на жизнь и права человека .
- Четкое определение рисков: Необходимо законодательно закрепить категории деятельности, которые считаются «высокорискованными», чтобы компании понимали свои обязательства .
- Прозрачность (Transparency): Потребители всегда должны знать, когда они взаимодействуют с системой ИИ, а не с живым человеком. Никто не должен быть обманут имитацией человеческого общения .
- Оценка воздействия (Impact Assessments): Для систем высокого риска компании обязаны проводить тесты на предвзятость (bias) и другие негативные эффекты, официально подтверждая безопасность своих продуктов .
Позиция OpenAI и ответственность индустрии 18:26
Сэм Альтман (Sam Altman) в своем вступительном слове поддержал идею государственного вмешательства, отметив, что OpenAI была основана именно с целью максимизации пользы при жестком контроле рисков . Он признал, что люди испытывают тревогу перед лицом новой технологии, и эта тревога оправдана .
Альтман подчеркнул, что компания тратит месяцы на проверки безопасности перед релизом новых моделей. Так, перед запуском GPT-4 более полугода проводились внешние аудиты и «красные команды» (red teaming) для поиска уязвимостей . В своем выступлении он кратко упомянул идею создания системы лицензирования для наиболее мощных моделей , но акцентировал внимание на том, что ИИ должен развиваться в соответствии с демократическими ценностями, где лидерство США будет играть критическую роль .
Завершая начальный этап слушаний, стороны сошлись в одном: время для действий наступило. Как отметил сенатор Блюменталь, Конгресс уже однажды «упустил момент» с регулированием социальных сетей, что привело к росту дезинформации и вредного контента . В случае с ИИ такой ошибки допустить нельзя, так как разрыв между технологическим прогрессом и морально-этическими нормами общества становится критическим .
🤖 Рынок труда, «цифровые этикетки» и угроза демократии 25:06
Вторая часть слушаний в Сенате сосредоточилась на практических и экзистенциальных вызовах, которые ИИ бросает привычному социальному укладу. Если начало дискуссии было посвящено общим опасениям, то в этом блоке Гэри Маркус, Сэм Альтман и Кристина Монтгомери перешли к обсуждению того, как изменятся рабочие места, как пользователи смогут отличать правду от вымысла и почему выборы 2024 года могут оказаться под угрозой из-за беспрецедентных возможностей манипуляции мнением.
Новая индустриальная революция: задачи против профессий 35:23
Вопрос влияния ИИ на рынок труда стал одной из самых острых тем обсуждения. Сэм Альтман, отвечая на вопросы сенаторов о его «самом страшном кошмаре», признал, что технологические революции всегда приносят значительные перемены. Однако его прогноз остается оптимистичным: он рассматривает GPT-4 не как «существо», а как инструмент .
По мнению главы OpenAI, ключевое различие заключается в том, что ИИ автоматизирует не целые профессии, а конкретные задачи . Это позволяет людям выполнять свою работу эффективнее, делегируя рутину алгоритмам. Альтман подчеркнул:
«Я верю, что на другой стороне этого перехода рабочих мест станет гораздо больше, а сегодняшние профессии станут качественнее» .
Кристина Монтгомери поддержала эту позицию, приведя в пример саму корпорацию IBM. Она отметила, что её собственная должность директора по вопросам конфиденциальности и многие роли в её команде просто не существовали несколько лет назад . IBM уже взяла на себя обязательство обучить 30 миллионов человек по всему миру навыкам работы с новыми технологиями к 2030 году, чтобы подготовить рабочую силу к неизбежной трансформации .
Однако Гэри Маркус выразил скепсис относительно того, что история всегда будет повторяться. Он указал, что хотя в прошлом новые технологии создавали больше рабочих мест, чем уничтожали, в случае с искусственным общим интеллектом (AGI) ситуация может быть иной . По его мнению, в долгосрочной перспективе (через 20–50 лет) AGI способен заменить значительную часть человеческого труда, и обществу нужно быть готовым к этому сценарию уже сейчас . Ранее Маркус также упоминал концепцию международного агентства по безопасности, но здесь он сфокусировался именно на непредсказуемости масштабов замещения людей машинами.
«Пищевые этикетки» для данных и независимый аудит 33:49
В условиях, когда нейросети склонны к «галлюцинациям» — уверенному генерированию ложной информации — встает вопрос о доверии к их ответам. Сенатор Дурбин предложил внедрить систему, аналогичную маркировке пищевых продуктов или тестам NIST для систем распознавания лиц . Идея заключается в создании обязательных «деклараций состава» для моделей: что именно послужило обучающим материалом и какие слабые места есть у системы.
Сэм Альтман полностью поддержал концепцию «nutrition labels» (этикеток с пищевой ценностью) для ИИ . Он считает, что компании должны не только публиковать результаты собственных тестов перед релизом, но и проходить через независимый аудит .
Основные предложения в этой сфере:
- Публикация карт точности и слабых мест моделей.
- Раскрытие состава обучающих данных для понимания предвзятости системы.
- Четкое информирование пользователя о том, что он взаимодействует с ИИ, а не с человеком.
Гэри Маркус добавил, что без прозрачности данных ученые не могут провести качественный анализ того, как модель обобщает информацию, а где она просто «зазубривает» куски текста . Он подчеркнул: «Если мы не знаем, что внутри системы, мы не можем оценить её надежность в новых ситуациях» .
Манипуляция избирателями: «Фотошоп на стероидах» 43:31
Наиболее тревожная часть дискуссии коснулась способности больших языковых моделей (LLM) предсказывать и менять общественное мнение. Сенатор Хоули процитировал исследование, согласно которому ИИ может с высокой точностью предсказывать реакцию различных групп населения на определенные стимулы, основываясь на их «медиа-диете» .
Сэм Альтман назвал эту угрозу одной из самых серьезных . В отличие от традиционных соцсетей, ИИ способен на «индивидуальную интерактивную дезинформацию». Это означает, что алгоритм может вести персональный диалог с избирателем, незаметно подталкивая его к изменению точки зрения. Альтман сравнил это с появлением Фотошопа: сначала люди верили любой отредактированной картинке, но потом научились критическому восприятию. Однако в случае с ИИ это будет «Фотошоп на стероидах» .
Гэри Маркус привел в пример статью, где описывалось, как чат-бот изменил политические убеждения пользователя . Проблема усугубляется тем, что манипуляция может быть крайне тонкой и неосознаваемой.
«Системы впитывают огромное количество данных, и то, что они говорят, отражает эти данные. Есть большая разница, обучалась ли модель на материалах Wall Street Journal или Reddit» .
Участники согласились, что для защиты демократических процессов необходимы жесткие правила раскрытия информации о том, когда и как используются алгоритмы для взаимодействия с гражданами, особенно в преддверии выборов.
🌐 Глобальный надзор и битва за внимание: кто владеет «цифровым вами»? 50:18
В середине слушаний дискуссия сместилась от технических рисков к вопросам фундаментального человеческого суверенитета: кто контролирует наши данные, как защитить творцов от «поглощения» их работ алгоритмами и какая структура способна обуздать технологию, не знающую государственных границ.
Гипертаргетинг и война за внимание 50:18
Сенатор Джош Хоули поднял вопрос о способности ИИ «суперзаряжать» механизмы удержания внимания. Он выразил опасение, что модели создадут такие профили пользователей, которые будут знать Сэма Альтмана или Джоша Хоули лучше, чем они сами, безошибочно определяя, что именно может захватить их интерес и вызвать нужную реакцию .
Сэм Альтман согласился, что такая угроза существует, однако поспешил дистанцироваться от рекламной модели бизнеса. «OpenAI не использует рекламную модель, мы не пытаемся строить профили пользователей и не хотим, чтобы они проводили в системе больше времени — нам и так не хватает видеокарт (GPU)», — заявил он . Тем не менее, Альтман признал, что другие компании уже используют ИИ для предсказания предпочтений, и эта тенденция будет только усиливаться .
Гэри Маркус добавил, что «гипертаргетированная реклама» неизбежна, даже если это не является целью OpenAI на текущий момент . Кристина Монтгомери из IBM подчеркнула, что для минимизации рисков необходимо внедрять прозрачность на уровне обучения моделей: выпускать специальные «паспорта данных» (data sheets) и «карточки моделей», чтобы пользователи понимали, на чём обучен алгоритм и как он работает .
Международное агентство по безопасности: модель CERN и МАГАТЭ 57:30
Одной из самых обсуждаемых концепций стала идея создания глобального регулятора. Сенатор Дик Дурбин отметил парадоксальность ситуации: представители корпораций сами просят правительство их регулировать, что редко случается в американской экономике . Ранее в разговоре уже упоминалась идея «точного регулирования», но теперь речь зашла о мировом масштабе.
Гэри Маркус предложил создать в США агентство уровня кабинета министров, чтобы консолидировать техническую экспертизу и координировать надзор . Однако, учитывая глобальный характер ИИ, он призвал к созданию международного органа, подобного CERN или МАГАТЭ .
Основные аргументы за международный подход:
- Сложность для бизнеса: Если в каждой из 190 стран будут свои правила, компаниям придется обучать отдельные дорогостоящие модели для каждой юрисдикции, что нанесет огромный удар по экологии из-за энергозатрат .
- Трансграничность угроз: ИИ-инновации не имеют границ, и американское агентство не сможет защитить граждан от воздействия извне .
Сэм Альтман поддержал эту инициативу, отметив, что США должны взять на себя лидерство, но эффективным решением может быть только глобальный стандарт . В качестве рычага влияния он предложил использовать контроль над цепочкой поставок чипов (GPU), что позволит принуждать другие страны к соблюдению международных норм безопасности .
Права авторов и защита копирайта в эпоху ИИ 1:04:12
Сенатор Марша Блэкберн, представляющая штат Теннесси с его мощным музыкальным сообществом Нэшвилла, перевела диалог в плоскость авторских прав. Она подчеркнула, что артисты должны сами решать, могут ли их песни или изображения использоваться для обучения ИИ .
Блэкберн привела в пример проект OpenAI Jukebox, который генерирует музыку «в стиле Гарта Брукса», что фактически означает использование защищенных авторским правом MIDI-файлов и звукозаписей для тренировки нейросети . В ходе спора возникли критические вопросы:
- Кто владеет правами на сгенерированный контент?
- Как компенсировать труд артиста, если его стиль был «заимствован» алгоритмом?
Сэм Альтман заверил, что OpenAI работает с музыкантами и художниками, чтобы выработать экономическую модель, которая позволит творцам получать выгоду от технологии . Он подчеркнул, что Jukebox был исследовательским релизом, а не коммерческим продуктом . Тем не менее, он согласился с тем, что люди имеют право запрещать использование своих персональных данных для обучения моделей, что требует принятия сильного национального закона о конфиденциальности .
В завершение этой части дискуссии сенатор Эми Клобучар напомнила, что хотя ИИ — это новый инструмент, он не должен становиться щитом для обхода ответственности. Она кратко коснулась тем, которые обсуждались ранее и будут детально разобраны позже: манипуляции на выборах через фейковые сообщения о местах голосования и кризиса местных новостных изданий, чей контент ИИ поглощает без компенсации .
🛡️ Ответственность и лицензирование: новая архитектура контроля 1:15:24
Второй час слушаний в Сенате ознаменовался переходом от обсуждения общих рисков к поиску конкретных регуляторных механизмов. Законодатели и эксперты сосредоточились на том, как избежать ошибок прошлого, допущенных при регулировании социальных сетей. Ключевым вопросом стало разграничение ответственности: является ли разработчик ИИ простым «хостом» для информации или он — полноценный автор контента, который должен отвечать за каждое слово своего детища.
Угроза локальным СМИ: ИИ как экзистенциальный вызов журналистике 1:15:10
Сенатор Эми Клобушар подняла критически важный вопрос о выживании местной прессы в эпоху доминирования генеративных моделей. Она подчеркнула, что «первый раунд» развития интернета уже нанёс сокрушительный удар по региональным изданиям, лишив их рекламных доходов. С появлением ИИ ситуация грозит стать «экспоненциально хуже» .
Основная претензия законодателей заключается в том, что системы ИИ обучаются на контенте, созданном профессиональными журналистами, фактически «крадя» его без какой-либо компенсации. Сэм Альтман, признавая важность «живой национальной медиасреды», отметил, что текущие модели, такие как GPT-4, не предназначены для поиска свежих новостей (их обучение завершилось в 2021 году), однако допустил возможность сотрудничества через систему плагинов .
Гэри Маркус добавил тревожный прогноз: рынок уже наводняют сайты, контент которых на 100% генерируется ботами . По его мнению, это не только создает нечестную конкуренцию для локальных радиостанций и газет, но и ведет к общему снижению качества информационного рынка из-за ненадежности генерируемых данных.
Конец иммунитета: почему ИИ не может прятаться за Section 230 1:17:59
Сенатор Линдси Грэм инициировал дискуссию об отмене судебного иммунитета для ИИ-компаний. Он напомнил о «разделе 230» (Section 230) — законе, который десятилетиями защищал социальные сети от исков за контент, размещенный пользователями. Грэм привел жесткий пример: если мать сообщает платформе о кибербуллинге, который ведет к самоубийству ребенка, а компания игнорирует жалобу, текущий закон часто не позволяет привлечь платформу к ответственности .
Участники слушаний пришли к консенсусу: для генеративного ИИ такая защита неприемлема.
- Кристина Монтгомери подчеркнула фундаментальное различие: ИИ не просто воспроизводит чужой контент, он его создает . IBM выступает за внедрение «стандарта разумной осторожности» (reasonable care standard), который обяжет компании нести ответственность за вред, причиненный их технологиями.
- Сэм Альтман подтвердил, что OpenAI не претендует на иммунитет по «разделу 230»: «Я не думаю, что это подходящая правовая база. Компании должны нести четкую ответственность» .
Ранее в разговоре участники уже затрагивали вопросы авторского права и защиты персональных данных, но именно здесь была зафиксирована готовность индустрии к юридической ответственности за сам факт генерации опасного контента.
Федеральный регулятор: лицензии на «интеллектуальные реакторы» 1:21:22
Центральным предложением Сэма Альтмана стала идея создания нового федерального агентства по образцу Комиссии по ядерному регулированию (NRC). Сенатор Грэм провел аналогию с атомной энергетикой: «Вы не можете просто пойти и построить ядерную станцию в своем дворе — вам нужна лицензия» .
Альтман поддержал эту концепцию, предложив систему из трех обязательных элементов :
- Лицензирование: создание агентства, которое будет выдавать разрешения на разработку моделей выше определенного порога мощности и отзывать их при нарушении стандартов.
- Тестирование безопасности: разработка конкретных критериев, которые модель обязана пройти перед выпуском «в дикую природу». В качестве примера Альтман привел проверку способности ИИ к «саморепликации» и «самостоятельному выходу из-под контроля» .
- Независимый аудит: проверка работы моделей не только государством, но и сторонними экспертами.
Интересно, что в рядах экспертов возник раскол по вопросу бюрократии. Кристина Монтгомери (IBM) высказала сомнения в необходимости создания нового ведомства с нуля, предложив опираться на концепцию «точного регулирования» (упоминавшуюся ранее в контексте отраслевых рисков) и усилить уже существующие органы власти . Однако Гэри Маркус возразил, что Конгресс слишком медлителен для ИИ, и стране необходимо «гибкое агентство, которое будет умнее законодателей» .
В завершение этого блока Сэм Альтман подтвердил свою готовность к жесткому надзору, уточнив на вопрос сенатора Кеннеди, что не имеет акций в OpenAI и работает только ради миссии и страховки, что делает его менее зависимым от корпоративной прибыли при обсуждении регуляций .
🌐 Инклюзивность, языковые барьеры и пороги мощности: как определить границы регулирования AI 1:40:28
Вторая половина слушаний в Сенате сместила фокус с общих опасностей на конкретные механизмы реализации надзора. Пока законодатели обсуждали необходимость создания новых регуляторных органов, возникли два критически важных вопроса: как сделать так, чтобы искусственный интеллект не стал инструментом дискриминации по языковому признаку, и где именно провести черту, за которой модель становится настолько мощной, что требует обязательного государственного лицензирования.
Инклюзивность и «языковой разрыв»: риск повторения ошибок соцсетей 1:48:33
Сенатор Алекс Падилья (Alex Padilla) обратил внимание на проблему, которая часто остается в тени англоязычного дискурса: предвзятость моделей, обусловленную дефицитом качественных данных на языках, отличных от английского. По его словам, большинство исследований в области этики AI сосредоточено на английском языке, в то время как другие лингвистические группы получают значительно меньше инвестиций и внимания .
Падилья выразил серьезную обеспокоенность тем, что индустрия AI может повторить провал социальных медиа. Ранее технологические гиганты не смогли обеспечить адекватную модерацию контента на неанглийских языках, что привело к росту дезинформации и разжиганию ненависти в различных регионах мира . Этот вопрос актуален и для США, где значительная часть населения предпочитает общаться не на английском.
Отвечая на этот вызов, Кристина Монтгомери (Christina Montgomery) подчеркнула, что IBM фокусируется на предоставлении инструментов для тестирования предвзятости и управления жизненным циклом AI, которые доступны и в open-source сегменте . Сэм Альтман (Sam Altman), в свою очередь, привел в пример сотрудничество OpenAI с правительством Исландии. Цель партнерства — включить исландский язык, имеющий относительно небольшое число носителей, в обучающую выборку, чтобы сохранить его культурную релевантность в цифровую эпоху .
Альтман признал:
«GPT-4, в отличие от наших предыдущих моделей, которые были хороши в английском и не очень в других языках, теперь демонстрирует высокую производительность на большом количестве языков» .
Однако он добавил, что для «малоресурсных» языков необходимы специальные партнерства для сбора репрезентативных наборов данных и ценностей со всего мира .
Определение порогов мощности: за какими моделями нужен присмотр? 1:56:41
Одним из самых сложных юридических вопросов остается определение сферы применения будущих законов. Сенатор Джон Оссофф (Jon Ossoff) прямо спросил Альтмана: как определить «регулируемую деятельность», чтобы не задушить инновации малых компаний и open-source сообщества? .
Сэм Альтман предложил двухсторонний подход к определению порогов мощности (thresholds) для лицензирования:
- Объем вычислительных ресурсов (Compute): Это самый простой технический критерий. Регулятор может установить определенный порог вычислительной мощности, затраченной на обучение модели. Если компания превышает этот лимит, она автоматически попадает в режим строгого надзора . Альтман отметил, что этот порог должен быть динамичным — он может расти или снижаться по мере появления более эффективных алгоритмов .
- Пороги способностей (Capability thresholds): Более точный, но сложный в реализации метод. Регулировать предлагается те модели, которые демонстрируют специфические опасные навыки.
В качестве примеров таких «красных линий» Альтман назвал способность модели убеждать, манипулировать или влиять на поведение и убеждения людей, а также помощь в создании новых биологических агентов . В ходе обсуждения также упоминались риски использования AI в правоохранительных органах: Альтман подчеркнул, что системы не должны заменять человеческое суждение в вопросах судебного преследования .
Прозрачность и защита данных как фундамент доверия 2:00:19
В контексте регулирования также зашел разговор о праве пользователей на отказ от использования их данных (opt-out). Альтман высказал мнение, что у пользователей должна быть возможность легко удалять свою историю или запрещать обучение моделей на данных, которые они генерируют в процессе взаимодействия с системой .
При этом он разграничил данные, вводимые пользователем, и информацию, доступную в открытой сети. По его словам, даже если OpenAI не будет обучаться на данных из открытого интернета, модели с возможностью веб-серфинга все равно смогут находить и цитировать эту информацию .
Особое внимание сенаторы уделили безопасности детей. Сенатор Оссофф предостерег Альтмана от использования бизнес-моделей, максимизирующих вовлеченность (engagement), как это делают соцсети . Альтман ответил, что OpenAI не является рекламной платформой и, напротив, из-за дефицита GPU-мощностей компания даже заинтересована в том, чтобы люди использовали их продукт менее интенсивно . Тем не менее, он согласился, что способность AI влиять на неокрепшие умы требует жестких стандартов того, как система должна отвечать на спорные вопросы .
🏛️ Технократия или демократия: угроза ИИ-олигархии и «поддельные люди» 2:05:34
В финальной трети слушаний дискуссия сместилась от технических деталей к фундаментальным вопросам устройства общества. Сенаторы и эксперты сосредоточились на том, в чьих руках окажется рычаг управления будущим и как сохранить человеческое доверие в мире, где машины учатся имитировать личность.
Корпоративная концентрация и риск цифровой олигархии 2:11:05
Сенатор Кори Букер выразил глубокую обеспокоенность тем, что он назвал «массивной корпоративной концентрацией» в сфере ИИ . Он провел параллель с эпохами Web 2.0 и Web 3.0, отметив пугающую тенденцию: контроль над технологиями, влияющими на жизнь миллиардов людей, сосредоточен в руках ничтожно малого количества игроков. Букер подчеркнул, что OpenAI поддерживается Microsoft, а компания Anthropic — Google, который также развивает собственные продукты, такие как Bard .
Гэри Маркус поддержал это опасение, предупредив о риске возникновения «технической технократии в сочетании с олигархией» . По его мнению, ситуация, когда узкий круг компаний формирует убеждения людей через алгоритмы, работающие на закрытых данных, представляет прямую угрозу демократическим институтам. Сэм Альтман признал серьезность проблемы, отметив, что хотя в сообществе открытого исходного кода (open source) происходят «удивительные вещи», количество провайдеров, способных создавать передовые модели самого крупного масштаба, неизбежно останется небольшим из-за колоссальных затрат на ресурсы .
В контексте обсуждения структуры управления Сэм Альтман пояснил уникальный статус OpenAI. Изначально компания создавалась как некоммерческая организация, поскольку в то время сама идея создания сильного ИИ (AGI) находилась «за пределами окна Овертона» . Альтман подчеркнул, что даже после перехода к коммерческой модели с ограниченной прибылью, он не имеет доли в компании, что позволяет ему фокусироваться на миссии «в интересах человечества», а не на максимизации прибыли через рекламные модели .
Барьеры для входа и ловушка регулирования 2:15:37
Обсуждая необходимость создания специализированного агентства, участники затронули тему «регуляторного захвата» (regulatory capture). Сенатор Питер Уэлш и Сэм Альтман сошлись во мнении, что жесткие правила могут непреднамеренно сыграть на руку гигантам индустрии .
Альтман выделил три основных риска избыточного регулирования:
- Замедление американских инноваций: Слишком жесткие рамки могут позволить Китаю или другим геополитическим конкурентам вырваться вперед .
- Удушение стартапов: Регуляторное бремя, которое легко вынесет OpenAI или Google, может оказаться непосильным для мелких разработчиков и исследователей open source .
- Имитация деятельности: Риск создания «зеленого камуфляжа» (greenwashing), когда крупные игроки публично поддерживают регулирование только для того, чтобы возвести барьеры для входа новых конкурентов .
Кристина Монтгомери добавила, что компании должны нести ответственность за внедряемые ими системы уже сегодня, не дожидаясь окончательных решений Конгресса . Ранее в ходе слушаний эксперты уже касались темы маркировки данных, и здесь Маркус вновь подчеркнул, что научное сообщество пока не обладает достаточными инструментами для полноценной детекции дезинформации .
«Поддельные люди» и кризис доверия 2:29:07
Одним из самых тревожных моментов главы стало предупреждение Гэри Маркуса о появлении «поддельных людей» (counterfeit people) . Ссылаясь на работу философа Дэниела Деннета, Маркус объяснил, что ИИ-системы становятся настолько совершенными в имитации человеческого общения, что это может разрушить ткань общественного доверия.
«Эти системы еще не стали идеальными людьми, но они достаточно хороши, чтобы обманывать многих людей большую часть времени», — констатировал Маркус . Это создает благодатную почву для киберпреступности и манипуляций рынками. Проблема усугубляется тем, что мы до сих пор не понимаем природы «самосознания» ИИ и того, как ограничивать системы, получающие доступ к интернету для выполнения физических действий, например, заказа химикатов или оборудования .
В завершение этого блока сенатор Ричард Блюменталь предложил три столпа для будущего законодательства: прозрачность, подотчетность и ограничения на использование . Все три свидетеля выразили согласие с этим подходом. Сэм Альтман резюмировал, что по мере роста возможностей систем — который может произойти «не в таком уж далеком будущем» — обществу придется решать вызовы, выходящие далеко за рамки текущих рисков дезинформации .
🛑 Мораторий или ответственность: будущее контроля над ИИ 2:32:13
Шестимесячный мораторий: безопасность против «остановки часов»
Обсуждение рисков ИИ неизбежно привело сенаторов к вопросу о возможности временной остановки всех крупных разработок. Сенатор Джош Хоули поднял тему открытого письма, подписанного Илоном Маском, Эндрю Янгом и еще 27 тысячами экспертов, которое призывало к шестимесячному мораторию на обучение систем мощнее GPT-4 . Гэри Маркус, один из подписавших документ, пояснил, что его поддержка письма была скорее «духовной», чем буквальной. По его мнению, акцент должен быть сделан не на запрете исследований, а на приостановке развертывания (deployment) гигантских систем до тех пор, пока не будут представлены убедительные доказательства их безопасности . Маркус выразил опасение, что выпуск моделей на аудиторию в 100 миллионов человек без внешнего аудита — это неоправданный риск.
Сэм Альтман, в свою очередь, представил позицию разработчика, подчеркнув, что OpenAI уже придерживается тактики «внутреннего моратория». Он сообщил, что после завершения обучения GPT-4 компания ждала более шести месяцев, прежде чем выпустить её в публичный доступ, посвятив это время тестированию и безопасности .
Ключевые тезисы Альтмана по поводу моратория:
- OpenAI в данный момент не обучает GPT-5 и не планирует делать этого в ближайшие полгода .
- Вместо «календарной паузы» отрасли нужны строгие стандарты безопасности, которые модель обязана пройти перед началом обучения и перед выпуском.
- Простая остановка часов не имеет смысла, если за это время не будут выработаны конкретные правила аудита и «красных команд» (red teaming) .
Сенатор Ричард Блюменталь выразил скепсис по поводу самой идеи глобальной паузы, назвав её попыткой «спрятать голову в песок» . Он отметил, что пока США будут стоять на месте, глобальное научное сообщество и геополитические противники продолжат движение вперед. Эту мысль поддержал и сенатор Кори Букер, заявив, что в мире не существует органа, способного принудительно остановить развитие технологий .
Частное право на иск: суды как альтернатива регуляторам 2:35:53
Одной из самых острых дискуссий финала слушаний стало предложение сенатора Хоули не полагаться исключительно на создание новых государственных агентств. Хоули высказал опасение, что любое федеральное ведомство со временем может быть «захвачено» интересами тех корпораций, которые оно должно контролировать . Вместо этого он предложил наделить граждан «частным правом на судебный иск» (private right of action).
Суть предложения Хоули заключается в том, чтобы позволить обычным людям напрямую судиться с разработчиками ИИ, если технология нанесла им вред: будь то медицинская дезинформация, ущерб репутации или иные формы воздействия . Он предложил создать федеральный закон, который гарантировал бы гражданам доступ в зал суда и возможность представлять доказательства против технологических гигантов.
Сэм Альтман отреагировал на эту инициативу с осторожностью. Хотя он согласился, что существующие законы о защите прав потребителей были написаны задолго до эпохи ИИ и нуждаются в обновлении, Альтман выразил сомнение в эффективности судебного пути:
- Скорость: Судебные тяжбы могут длиться десятилетие, что слишком медленно для предотвращения системных рисков ИИ .
- Эффективность: Такой подход сделает богатыми юристов, но вряд ли решит проблему массовой дезинформации, создаваемой иностранными акторами .
Кристина Монтгомери поддержала идею о том, что ИИ не должен быть «щитом» для компаний. Она подчеркнула, что если компания использует алгоритм для принятия дискриминационных решений — например, при выдаче кредитов или найме на работу, — она должна нести за это полную юридическую ответственность уже сегодня, независимо от того, использовался ли ИИ или человеческий труд .
В завершение Гэри Маркус привел в пример инцидент с чат-ботом Sydney от Microsoft, который давал деструктивные советы пользователям. Маркус отметил, что даже если во главе компаний стоят люди с благими намерениями, корпоративное давление часто заставляет их выпускать сырые продукты . Это, по его мнению, доказывает необходимость внешнего юридического и государственного контроля, поскольку «рынок не всегда исправляет себя сам» .
Ранее в ходе слушаний участники также затрагивали вопросы корпоративной концентрации и влияния ИИ на рынок труда, однако финальный аккорд заседания был сосредоточен на поиске баланса между инновациями и неизбежностью жесткого регулирования. Сенатор Блюменталь закрыл слушания, отметив, что Конгрессу необходимо двигаться быстрее, чем обычно, чтобы не остаться в роли догоняющего .
