Сэм Альтман: «Искусственный интеллект должен отражать коллективные ценности человечества» 0:00
Технологии искусственного интеллекта стремительно меняют повседневную жизнь, становясь не просто инструментом, но и своего рода посредником в принятии решений. В недавнем интервью на канале Tucker Carlson Network Сэм Альтман, CEO OpenAI, обсудил с ведущим Такером Карлсоном моральные принципы, заложенные в ChatGPT, и ответственность, которую несет его компания за влияние алгоритмов на глобальное общество.
🧠 Моральный компас ИИ 3:02
В центре дискуссии оказался вопрос о том, каким этическим рамкам следует ИИ. По словам Сэма Альтмана, разработчики стремятся не к внедрению узкой системы ценностей, а к тому, чтобы модель обучалась на «коллективном опыте всего человечества».
Однако Такер Карлсон выразил сомнение в нейтральности этого процесса, отметив, что мировая литература и философия зачастую противоречат друг другу — например, ценности, проповедуемые в Евангелие от Иоанна, принципиально отличаются от идей маркиза де Сада.
Чтобы урегулировать эти противоречия, OpenAI использует так называемый «Model Spec» (спецификацию модели) — документ, описывающий правила поведения ИИ. Сэм Альтман пояснил:
- Компания консультируется с сотнями моральных философов и экспертов по этике систем.
- Модель не должна навязывать пользователю «единственно верное» мнение, если речь идет о дискуссионных вопросах.
- Главная задача — отражать взвешенное «среднее» моральное представление пользователей, которое эволюционирует вместе с развитием общества.
Тем не менее Такер Карлсон указал на риск того, что эти решения, принимаемые небольшой группой людей в Кремниевой долине, будут транслироваться миллиардам пользователей по всему миру, формируя их мировоззрение.
🌐 Власть, влияние и «неизвестные риски» 1:31
Одной из центральных тем стало опасение по поводу радикальной концентрации власти в руках тех, кто контролирует передовые модели ИИ. Сэм Альтман признал, что раньше тоже беспокоился об этом, но сейчас видит процесс иначе: технология становится мощным «усилителем» возможностей для миллионов людей.
Сэм Альтман подчеркивает, что его пугают не столько крупные, ожидаемые угрозы — такие как использование нейросетей для проектирования биологического оружия, — сколько «неизвестные риски». В качестве примера он привел случайное изменение человеческого общения под влиянием ИИ: люди начали перенимать ритм речи и пунктуацию языковых моделей (например, частое использование тире), что свидетельствует о реальном сдвиге в поведении.
⚖️ ИИ как новая религия? 15:00
Такер Карлсон выдвинул провокационный тезис о том, что современные системы ИИ по своей сути напоминают религию: они воспринимаются как нечто более могущественное, чем человек, и к ним обращаются за руководством в поисках «правильного» ответа. Ведущий утверждает, что, в отличие от традиционных религий, моральный кодекс ИИ остается скрытым и непрозрачным, что делает его влияние «незаметным».
Сэм Альтман ответил, что компания стремится к прозрачности через публикацию «Model Spec», который будет становиться всё более детализированным по мере расширения использования ChatGPT в разных странах с разным законодательством. Он настаивает: конечная ответственность за эти решения лежит на нем лично и на совете директоров OpenAI, и он осознает тяжесть этого груза, особенно учитывая масштаб влияния на сотни миллионов пользователей.
