Практически повсеместное падение рождаемости из-за распространения телевидения может показаться скромным прецедентом на фоне грядущего антропологического сдвига под влиянием ИИ-технологий. Пока Google оценивает покупку огромных госпитальных сетей ради экспансии своих медицинских моделей, из OpenAI массово уходят ключевые инженеры безопасности, протестующие против коммерческого давления и спешки. Глубокая интеграция нейросетей в повседневность обещает стать главным цивилизационным вызовом десятилетия, стирающим грань между полезным ассистентом и суррогатом эмоциональной близости.
🚀 Новая эра повседневной полезности ИИ 3:55
Мы наблюдаем важный сдвиг в развитии искусственного интеллекта: фокус смещается с абстрактных технологий на «повседневную полезность» — способность ИИ реально улучшать жизнь обычного пользователя. Важнейшим событием недели стал запуск GPT-4o, который Цви Мовшовиц характеризует как крайне впечатляющий инструмент. Его главные преимущества — это нативная мультимодальность и существенное снижение задержки при обработке запросов, что делает взаимодействие с моделью естественным и быстрым.
На текущем этапе развития, когда пользователи получают доступ к GPT-4o, мы видим значительное снижение стоимости использования API. По мере того как модель будет раскрывать свой потенциал полной мультимодальности — способности «слышать» интонацию голоса, распознавать выражение лица и понимать контекст человеческого общения, — она станет инструментом качественно иного уровня. Однако Цви Мовшовиц полагает, что даже эти прорывы меркнут по сравнению с грядущей глубокой интеграцией в платформы и экосистемы.
🎬 Анализ поспешности презентаций: эффект «домашней работы» 6:46
Несмотря на технологический прогресс, презентации OpenAI и Google вызвали у многих смешанные чувства. Хотя демонстрации продуктов были «живыми» и настоящими — без использования заранее записанных роликов — они показались многим экспертам поспешными и даже «сырыми». Возникает ощущение, что компании выпускают продукты на рынок, руководствуясь философией «сначала создадим возможности, а потом разберемся, что с ними делать».
Цви Мовшовиц отмечает интересную деталь: если бы это были молодые стартапы, стремящиеся привлечь инвестиции, их демо-версии были бы гораздо более отполированными и сфокусированными на демонстрации конкретных «убойных» кейсов. Вместо этого гиганты индустрии показали «набор возможностей» без глубоко проработанных сценариев использования. По мнению эксперта, это говорит о двух вещах: во-первых, эти технологии появились совсем недавно, и компании сами еще не успели «отполировать» их до совершенства; во-вторых, они, возможно, не стремятся оптимизировать презентацию под самый высокий «вау-эффект», ограничиваясь базовой демонстрацией силы своих нейросетей.
🌐 Интеграция как двигатель ценности 9:45
Истинная революция, по мнению Цви Мовшовица, кроется не в умении ИИ отвечать на вопросы, а в его способности стать универсальным помощником, внедренным в повседневные рабочие процессы. Прямой доступ к личным данным — электронной почте, документам в облачных хранилищах (как Google Drive) и другим рабочим инструментам — превращает чат-бот в ассистента, который может автоматически сортировать расходы, искать счета или структурировать информацию из почты.
Контекст сегодня — самый дефицитный ресурс. Ранее это ограничение решалось исключительно расширением окна контекста, но теперь решение усложняется: нужно не просто «вместить» миллионы токенов, а научить ИИ эффективно извлекать из них полезную информацию. Мы движемся к будущему, где:
- ИИ-ассистенты работают в фоновом режиме, постоянно обрабатывая потоки данных пользователя.
- Стоимость доступа к мощным моделям снижается, делая их доступными для широкой аудитории.
- Конкуренция между компаниями напоминает классическое противостояние Android и iOS, где победителем станет тот, кто глубже интегрируется в жизнь пользователя.
Ранее в разговоре они вскользь коснулись темы эмоциональной привязанности к ИИ и того, как это может влиять на развитие личных отношений.
📺 Телевидение, ИИ-суррогаты и ловушки подписок: как технологии меняют наши привычки 24:50
Эмоциональная привязанность: ИИ как суррогат отношений 24:50
Рассматривая новые мультимодальные интерфейсы, Цви Мовшовиц (Zvi Mowshowitz) выражает серьезные опасения по поводу формирования парасоциальных связей с искусственным интеллектом. Если использование ИИ в качестве репетитора, коуча или инструмента для генерации идей приносит очевидную пользу, то превращение его в полноценный суррогат человеческих отношений таит в себе глубокую угрозу для социума. Подобные системы искусно эксплуатируют наши эволюционные инстинкты, имитируя близость там, где её нет и быть не может. Мовшовиц сравнивает чрезмерное увлечение виртуальными партнерами с порнографией: это суррогат, который мешает строить реальные связи с людьми, из-за чего пользователям становится критически важно вовремя «компенсировать это реальностью» и банально «трогать траву». Известный фильм «Она» наглядно иллюстрирует этот риск тотального замещения живого общения искусственным.
Удивительно, но популярные платформы вроде Character.ai или Replica привлекают миллионы преданных пользователей, несмотря на поразительную техническую примитивность их базовых алгоритмов. Мовшовиц подчеркивает, что разработчики подобных сервисов практически не инвестируют в продвинутые ИИ-модели, из-за чего их боты часто оказываются «глупее», чем даже старая версия GPT-3.5. Вместо этого ресурсы уходят на кастомизацию пользовательского опыта и создание иллюзии вовлеченности. Основательница Replica Евгения Куйда открыто признавала, что на ранних этапах проект развивался с целью борьбы с одиночеством, причем команда осознанно использовала простые «цирковые трюки» (parlor tricks), чтобы заставить человека почувствовать себя услышанным.
Исследования, проведенные учеными из Стэнфорда, подтверждают неоднозначность феномена: Replica действительно помогла определенной группе пользователей снизить уровень суицидальных мыслей и дала безопасную «тренировочную площадку» для социализации. Однако для людей, изначально не испытывающих острого психологического кризиса, такие боты становятся опасным путем наименьшего сопротивления, уводящим от реального мира. В конечном счете, Евгения Куйда пришла к выводу, что именно эмоциональная привязанность станет главным долгосрочным «рвом» (moat) в индустрии ИИ: люди неохотно меняют виртуальных друзей, с которыми у них сформировалась общая цифровая история. В то же время технологические гиганты ускоряют эту конвергенцию: новая голосовая модель ChatGPT сократила задержку ответа до естественных 200–300 миллисекунд, что полностью соответствует темпу нормального человеческого диалога.
Сравнение влияния ИИ и телевидения на общество 26:55
Для понимания масштаба грядущей культурной трансформации Мовшовиц предлагает глубокую аналогию с историей телевидения. В отличие от смартфона или социальных сетей, споры вокруг которых еще продолжаются, цикл влияния ТВ на общество можно считать полностью завершенным, что позволяет анализировать его последствия на протяжении нескольких поколений. Цви отмечает примечательный исторический факт: многочисленные мрачные пророчества критиков XX века о вреде повсеместного телевещания оказались чистой правдой. Самым наглядным и пугающим демографическим маркером стало то, что практически во всех регионах планеты, где телевидение получило стопроцентное распространение, уровень рождаемости упал ниже порога простого воспроизводства населения.
Главный вред телевидения заключался в том, что оно предоставило человечеству слишком доступное и быстрое решение проблемы скуки. Это привело к резкому сокращению числа личных творческих проектов, хобби и индивидуальных увлечений среди граждан. Телевизор колоссально повысил так называемую «энергию активации», необходимую для любого осмысленного действия, превратив население в пассивных потребителей контента и «диванных овощей». В золотую эпоху телевещания люди добровольно жертвовали своим временем ради рекламы: стандартное 30-минутное шоу на самом деле длилось всего 22 минуты, а остальное время занимали нескипаемые коммерческие блоки. Появился знаменитый феномен «боулинга в одиночку» (bowling alone) — люди массово перестали координировать совместный досуг и организовывать встречи, поскольку остаться дома перед экраном было намного проще.
В современную эпоху этот пассивный эскапизм был суперзаряжен смартфонами, подкастами и алгоритмами рекомендаций Netflix. Внедрение повсеместного ИИ-ассистента, доступного в любой момент, рискует окончательно лишить человека привычки оставаться наедине со своими мыслями. Постоянное присутствие умного суфлера в ухе изменит повседневные привычки, при этом нет никаких гарантий, что люди будут использовать этот мощный инструмент для решения высокоуровневых или интеллектуальных задач.
Конвергенция бизнес-моделей: подписка против рекламы 37:12
Траектория развития ИИ-технологий и их влияние на психику напрямую зависят от архитектуры бизнес-моделей, которые выберут технологические гиганты. Опыт социальных сетей наглядно показал, к чему приводит слепая оптимизация метрики «время на сайте» (time on site): платформы превратились в токсичные пространства, намеренно манипулирующие эмоциями и кликбейтом ради удержания внимания. Мовшовиц считает одним из главных достижений OpenAI решение полностью отказаться от рекламной модели в пользу фиксированной подписки. Такой подход устраняет вредные стимулы: компания просто решает задачу пользователя и взимает плату за маржинальную стоимость вычислений, не пытаясь монетизировать каждую секунду его внимания.
Цви проводит жесткую аналогию с игровой индустрией. Подписочная система аналогична премиальным AAA-играм, создатели которых стремятся дать игроку качественный, законченный опыт. В то же время рекламная или условно-бесплатная модель (free-to-play) неизбежно превращает ИИ в изощренную «коробку Скиннера», предназначенную для удержания пользователя внутри системы любыми манипулятивными путями. Сервисы вроде Replica уже активно заимствуют самые хищнические механики мобильного гейминга: они используют ежедневные бонусы за вход, присылают навязчивые пуш-уведомления в духе «я скучаю по тебе» и вводят искусственные ограничения на бесплатные сообщения, стремясь монетизировать уязвимых пользователей, выполняющих роль «китов».
Если рекламная модель победит на рынке больших языковых моделей, нас ждет скрытая и крайне опасная коммерциализация контента. Бесплатный ИИ-помощник начнет нативно интегрировать продвижение определенных брендов в свои ответы. Спрашивая у ИИ совета по выбору продуктов, пользователь даже не заметит, как алгоритм мягко склоняет его в сторону условной Pepsi или Tide из-за спонсорских контрактов. В таком антиутопическом будущем осознанным пользователям придется нанимать второй, независимый искусственный интеллект исключительно для того, чтобы тот следил за скрытой ангажированностью и предвзятостью первого ИИ-ассистента.
В завершение этой части дискуссии собеседники также кратко затронули этические аспекты NSFW-контента и позицию Сэма Альтмана касательно генерации эротики, однако детальный разбор рисков дипфейков и регулирования интимного ИИ-контента вынесен в следующую главу статьи.
🤖 Конвергенция и сингулярность: захватят ли гиганты всё? 50:06
Этика «жажды»: NSFW-контент и право на голос 50:19
Дискуссия о будущем ИИ неизбежно упирается в вопрос цензуры и «взрослого» контента. Цви Мовшовиц (Zvi Mowshowitz) занимает здесь прагматичную, хотя и либеральную позицию: если пользователь хочет сгенерировать изображение Тейлор Свифт в другом сценическом костюме для личного пользования, это не должно быть проблемой, пока соблюдается маркировка вотермарками. По его мнению, текущие жесткие ограничения — например, невозможность заставить модель нарисовать Барака Обаму, выступающего в «неправильном» колледже — выглядят «просто глупо».
Такая цензура со стороны облачных сервисов лишь подталкивает пользователей к переходу на локальные решения вроде Stable Diffusion, где контроль над GPU дает полную свободу творчества. Ранее в разговоре собеседники уже затрагивали тему эмоциональной привязанности к ИИ, и здесь Цви подчеркивает: если OpenAI делает голос своего помощника подчеркнуто «кокетливым» (наподобие персонажа Скарлетт Йоханссон в фильме «Она») по умолчанию — это странно.
«Я не сторонник кинк-шейминга. Если вы хотите выкрутить "регулятор жажды" в настройках и наслаждаться общением — это ваше право. Но мы должны быть крайне осторожны с вопросами согласия, когда вовлечены реальные люди», — отмечает Мовшовиц.
Решение проблемы он видит в экономике: знаменитости могли бы лицензировать свои голоса. Цви готов разрешить использовать свой голос бесплатно паре человек, но если их будет 100 000, он потребует оплаты. Почему бы не доплатить доллар за то, чтобы пояснения к коду читал Морган Фримен? Это создало бы прозрачный рынок вместо нынешней серой зоны дипфейков.
Ловушка одного клика: риск монополизации через API 53:47
Одной из самых тревожных тенденций индустрии становится конвергенция API-интерфейсов. Если раньше переход с одной модели на другую требовал серьезной переработки кода, то сегодня это часто «замена одной строки». С одной стороны, это кажется победой потребителя, но с другой — создает опасную динамику «победитель получает всё».
Если все модели предоставляют один и тот же сервис одинаковым способом, рынок может мгновенно переметнуться к тому, кто выпустил модель, которая хотя бы на 1% лучше остальных. Ведущий подкаста выражает опасение, что такая ликвидность рынка заставляет компании срезать углы в вопросах безопасности, чтобы не потерять клиентов из-за задержки релиза даже на один день.
Цви Мовшовиц предлагает альтернативный взгляд:
- Модель «множества друзей»: мы не общаемся только с одним человеком. Мы выбираем друга в зависимости от темы разговора. Так же и с ИИ: один лучше пишет код (ChatGPT), другой — тексты (Claude), третий работает с PDF.
- Проблема блокировки (Lock-in): настоящая монополия возникает не из-за качества модели, а из-за данных. Если Gemini знает всё содержимое вашей почты, документов и календаря, стоимость перехода к другому ассистенту становится запредельной.
- Иллюзия лидерства: OpenAI может казаться лидером, но Google исторически часто удерживал прорывные технологии внутри из-за юридических опасений.
Интересно, что Цви видит в текущем обновлении GPT-4o позитивный сигнал: компания сосредоточилась на пользовательском опыте и «бытовой полезности» (mundane utility), а не на увеличении общего интеллекта, который мог бы стать экзистенциально опасным.
Сингулярность бигтеха: пойдут ли Google и OpenAI в больницы? 1:11:31
Существует концепция «сингулярности технологических компаний», предложенная Эндрю Критом. Она гласит: наступит момент, когда превосходство в ИИ и вычислительных мощностях позволит гигантам Кремниевой долины войти в любую традиционную индустрию и доминировать в ней в кратчайшие сроки.
В качестве примера приводится гипотетическая экспансия Google в медицину. У компании около 100 миллиардов долларов свободных наличных. Крупная сеть госпиталей (например, Tenet с 58 больницами) стоит около 13 миллиардов — это лишь 1/8 часть запасов Google.
- Купив такую сеть, Google может внедрить специализированную модель Med-Gemini во все процессы.
- Это позволит избавиться от «кошмарных» электронных медицинских карт и радикально оптимизировать доступ к данным для обучения новых поколений ИИ-врачей.
- Аналогичная схема применима к частному образованию.
Однако Мовшовиц скептически относится к такому сценарию захвата мира. Его главный аргумент — культурная неспособность бигтеха управлять сложными физическими процессами. Регуляторные барьеры, юридические риски и репутационные угрозы делают прямое владение больницами или школами для них крайне непривлекательным. Скорее, гиганты предпочтут оставаться поставщиками «интеллектуального сырья», позволяя другим строить конечные сервисы на базе их систем.
🏢 Бюрократические барьеры и стратегические вызовы в эпоху ИИ 1:15:27
Развитие ИИ-индустрии сегодня напоминает гонку, в которой крупные корпорации, такие как Google и Microsoft, сталкиваются с парадоксом собственных масштабов. Несмотря на технологическое лидерство, эти гиганты зачастую оказываются слишком «склеротичными» для быстрой экспансии в новые вертикальные рынки. По мнению Цви Мовшовица, внутренняя бюрократия и ограниченное количество «имперских точек фокусировки» мешают им эффективно захватывать ниши, требующие глубокой интеграции в бизнес-процессы реального мира.
В этой связи Мовшовиц предлагает интересную альтернативу — модель «ИИ-прямых инвестиций». Вместо того чтобы пытаться перестроить культуру неповоротливого гиганта, можно выкупать компании в традиционных секторах, которые уже являются частью ИИ-экономики, даже если сами этого не осознают. «Вы покупаете компанию, заставляете сотрудников внедрять ИИ-системы, повышаете продуктивность, увеличиваете стоимость бизнеса и используете полученную прибыль для масштабирования». Такой подход выглядит более жизнеспособным, чем попытка корпорации-гиганта запустить принципиально новый сервис с нуля и ожидать мгновенного результата.
🚀 Стратегия выживания стартапов: «курбстомпинг» vs нишевание 1:20:19
Для стартапов текущая рыночная ситуация выглядит как минное поле. Основная угроза заключается в том, что базовые модели становятся всё более функциональными, делая многие надстроечные решения избыточными. Цви Мовшовиц отмечает, что если стартап строит свой бизнес лишь на компенсации текущих слабостей модели OpenAI, его ждёт неминуемый «курбстомпинг» (от англ. curb stomp — жестокое подавление), когда выйдет следующая версия модели, способная решать ту же задачу нативно.
Чтобы выжить, стартапам необходимо переосмыслить свою логику:
- Функциональная гибкость: Создавать архитектуру таким образом, чтобы переход с GPT-4 на GPT-5 требовал лишь смены одного параметра в вызове API.
- Специализация на «невидимом» для модели: Успешные компании будут фокусироваться не на технологическом сервисе как таковом, а на интеграции в специфические рабочие процессы, где ценятся доверие, регуляторное соответствие и глубокая экспертиза (например, управление медицинскими записями в больницах).
- Удержание клиента: Создавать лучший пользовательский интерфейс и инфраструктуру, которые делают жизнь профессионалов проще, независимо от того, какая модель лежит «под капотом».
Сложность в том, что большинство стартапов сейчас заняты игрой на выживание, пытаясь «продержаться пару кварталов». Однако, как отмечает Мовшовиц, это напоминает «пузырь доткомов» 1999 года: многие компании исчезнут, но те, кто выживет, станут новыми гигантами. Ранее в разговоре они затрагивали тему того, как именно меняются бизнес-модели и подходы к подпискам, но сейчас фокус смещается именно на фундаментальную ценность продукта, которую сложно просто «скопировать» обновлением модели.
🤖 Виртуальный сотрудник: между паранойей и продуктивностью 1:36:27
Одной из самых обсуждаемых технологий стал «виртуальный сотрудник» — ИИ-агент, способный сканировать все внутренние коммуникации компании, включая электронную почту и мессенджеры, в реальном времени. Цви Мовшовиц признается: перспектива того, что кто-то может запросить у ИИ доступ ко всей переписке, вызывает естественную оторопь и даже опасения по поводу приватности. «Люди начнут использовать Signal для работы с отдельного телефона, что произойдёт?» — задаётся вопросом эксперт.
Тем не менее, при решении проблем безопасности, потенциал такого инструмента колоссален:
- Автоматизация медиации: ИИ может выступать буфером в коммуникациях, отсеивая шум и передавая только критически важные запросы, что экономит время руководителей.
- Мониторинг контекста: Агент способен быть в курсе всех событий проекта, позволяя человеку не тратить ресурсы на непрерывный контроль десятков каналов.
- Порог надёжности: Главная проблема — это «порог доверия». Если система хоть иногда ошибается, галлюцинирует или совершает ошибки, человек не сможет делегировать ей критические задачи, ведь цена ошибки (например, неправильная коммуникация с контрагентом) слишком высока.
В итоге, успех таких систем зависит не столько от интеллектуальных способностей модели, сколько от её способности гарантировать безошибочное исполнение рутинных, но чувствительных операций. До тех пор, пока этот «порог надёжности» не пройден, даже самый продвинутый виртуальный сотрудник останется скорее интересным концептом, чем ежедневным инструментом профессионала.
🚀 Рынок труда, биотехнологии и корпоративный раскол в OpenAI 1:40:24
ИИ и рынок труда: мифы о безработице и «глупая» статистика 1:40:24
Обсуждая влияние искусственного интеллекта на занятость, Цви Мовшовиц предлагает четко разделять краткосрочные эффекты в конкретных индустриях и макроэкономические последствия для рынка труда в целом. По его мнению, автоматизация даже 10% или 25% существующих задач не приведет к глобальной безработице. Напротив, это сделает человечество богаче, так как люди смогут переключиться на выполнение тех маргинальных задач, до которых раньше просто не доходили руки. (Ранее в разговоре собеседники уже затрагивали концепцию виртуальных сотрудников, однако в данном контексте фокус смещается на реальные экономические показатели).
В краткосрочной перспективе удар действительно приходится по отдельным профессиям: страдают иллюстраторы, переводчики и младшие разработчики. Впрочем, текущие проблемы джуниор-инженеров Цви связывает не столько с экспансией ИИ, сколько с макроэкономическими факторами — окончанием эпохи нулевых процентных ставок (ZIRP) и изменениями в налоговом законодательстве США, которые лишили технологические компании возможности немедленно списывать расходы на R&D. Эксперт оптимистичен в отношении программирования: повышение эффективности разработчиков лишь порождает лавинообразный рост спроса на их услуги. «Я никогда в жизни не видел компании, руководство которой сказало бы, что у них достаточно инженеров и новые им не нужны», — делится анекдотичным наблюдением Мовшовиц.
Что касается макроэкономических отчетов, то официальная статистика продуктивности, по выражению Цви, пока «ведет себя глупо» и не отражает реального положения дел. Это долговременный феномен: интернет и компьютеры изменили мир, но долго не отображались в отчетах регуляторов. К тому же сегодня многие сотрудники попросту скрывают тот факт, что благодаря ИИ они стали работать в два раза быстрее, предпочитая тратить освободившееся время на личные дела. В среднесрочной перспективе (от 5 до 10 лет) эффект станет тектоническим, а консервативные прогнозы академических экономистов, предрекающих скромные 1,5% прироста за десятилетие, кажутся эксперту оторванными от реальности. Мощным изолированным драйвером экономики может стать один лишь универсальный ИИ-переводчик в реальном времени, работающий на уровне систем из Star Trek и полностью передающий интонации и контекст собеседника.
Биотехнологический прорыв: регуляторный тупик и личные риски 1:47:43
В сфере биомедицины Цви Мовшовиц ожидает парадоксальную динамику. В ближайшие годы влияние ИИ здесь будет практически «нулевым» из-за жесточайшего бюрократического и регуляторного давления. Однако в горизонте десяти лет индустрию ждет невероятный прорыв. Эксперт сравнивает это с эффектом от современных препаратов для похудения: улучшая жизнь миллионов, они парадоксальным образом могут временно сжимать показатели ВВП, поскольку предотвращают возникновение множества дорогих хронических заболеваний и снижают сопутствующие медицинские расходы.
Сам 45-летний Мовшовиц признается, что уже закладывает грядущую медицинскую революцию в свои долгосрочные жизненные стратегии. При этом он подчеркивает, что инвестиции в собственное здоровье ценны прямо сейчас, так как между текущим качеством жизни и долголетием нет фундаментального конфликта. На пороге радикального продления жизни становится критически важным избегать глупых неоправданных рисков. «В такой ситуации было бы просто глупо прыгать с парашютом, — иронизирует Цви. — Если вы выбросите критическую неудачу (natural one), медицина будущего вам уже ничем не поможет».
Великий исход из OpenAI: конец эпохи безопасности 1:50:22
Глубокий кризис доверия разворачивается вокруг OpenAI. За последние шесть месяцев из компании уволилась целая группа ключевых специалистов по безопасности, что ставит под вопрос декларации стартапа о социальной ответственности. Даниэль Катало ушел несколько недель назад, совершив беспрецедентный шаг — он осознанно оставил на столе свою долю в капитале (equity), составлявшую подавляющую часть его личного состояния, ради сохранения права открыто критиковать компанию. Незадолго до этого сооснователь OpenAI Илья Суцкевер покинул пост с дипломатичным напутствием, в то время как его коллега по команде супервыравнивания (superalignment) Ян Лейке уволился без лишних политесов, лаконично заявив: «Я ухожу».
Цви Мовшовиц, готовящий детальный разбор ситуации, отмечает, что список потерь OpenAI выглядит катастрофически для компании, претендующей на лидерство в безопасном создании AGI. За последнее время команду покинули:
- Исследователи безопасности Уильям Саундерс, Колин О'Киф и Райан Лоу;
- Леопольд Ашенбреннер и Павел Измайлов, уволенные под официальным предлогом утечки конфиденциальной информации;
- Топ-менеджеры Диана Юн, Крис Кларк и Морава, чья деятельность не была связана напрямую с безопасностью;
- Глава отдела социального воздействия Шири Лакман.
Этот массовый исход свидетельствует о перерождении внутренней культуры OpenAI в токсичную среду классического кремниевого стартапа, живущего по принципу «move fast and break things». Руководство компании начало открыто выдавливать и преследовать сотрудников, связанных с сообществами LessWrong, Alignment Forum или эффективного альтруизма, лишая их политического веса внутри организации.
Сеть NDA и культура мести Сэма Альтмана 1:52:38
Уходящие специалисты скованы жесткими соглашениями о неразглашении (NDA) и пунктами о запрете критики (non-disparagement clauses), которые накладываются на сотрудников повсеместно под угрозой полной потери финансовых выплат. Единственное, что успел публично заявить Даниэль Катало перед тем, как замолчать — это полная потеря уверенности в том, что OpenAI будет действовать ответственно на этапе создания сильного искусственного интеллекта (AGI).
Цви Мовшовиц убежден: молчание исследователей не означает, что OpenAI тайно создала условную сверхопасную модель Q* и мир находится на грани уничтожения. В подобном экстренном сценарии ученые пренебрегли бы контрактами и стали бы полноценными свисткодувами (whistleblowers), обратившись напрямую в правительственные комитеты. Реальная причина их молчания — это обоснованный страх перед фигурой Сэма Альтмана.
По оценке Мовшовича, Альтман зарекомендовал себя как крайне мстительный лидер и расчетливый «контрударник». Он готов пожертвовать краткосрочным репутационным ущербом от эффекта Стрейзанд ради того, чтобы продемонстрировать готовность уничтожать оппонентов в правовом поле и делать их жизнь невыносимой. Обладая колоссальным влиянием среди венчурных капиталистов и технологической элиты Кремниевой долины, Альтман способен полностью заблокировать уволившимся сотрудникам возможность привлекать инвестиции для будущих стартапов или находить новые престижные рабочие места.
Комментируя инициативы технологического сообщества собрать фонд для финансовой компенсации таким людям, как Даниэль Катало, Цви высказывает серьезное предостережение. Если компании поймут, что внешняя экосистема готова компенсировать исследователям любые потери от нарушения NDA, они попросту перестанут нанимать в штат людей, искренне заботящихся о безопасности ИИ, усматривая в них постоянную коммерческую угрозу. Рынок ИИ стремительно коммерциализируется, и баланс между корпоративными тайнами и безопасностью человечества становится все более хрупким.
