В новом выпуске All-In Podcast ведущие — Чамат Палихапития, Джейсон Калаканис, Дэвид Сакс и Дэвид Фридберг — обсуждают громкое увольнение сотрудника Anthropic из-за страха перед ИИ, возможную манипуляцию данными со стороны OpenAI при решении сложной математической задачи и причины катастрофического падения Nike, потерявшей 200 миллиардов долларов капитализации.
🤖 ИИ-апокалипсис: реальная угроза или пиар-кампания «думеров»? 0:35
Обсуждение началось с резонансного увольнения исследователя Джейкоба Коксина, который проработал в Anthropic всего шесть недель, прежде чем объявить, что люди, создающие ИИ, всерьёз верят в возможность гибели человечества до конца десятилетия . Его пост в X набрал более 150 миллионов просмотров, а Эван Хубингер, отвечающий за «выравнивание» (alignment) в Anthropic, подтвердил эти опасения, оценив вероятность вымирания человечества более чем в 10% в ближайшие десять лет .
Дэвид Сакс выразил крайний скептицизм, назвав происходящее «думерской истерией» и «спланированной операцией» (psyop) . По его мнению, за этим стоят конкретные интересы:
- Координация: Сакс утверждает, что аккаунт Коксина был «пустым» и внезапно получил огромный охват благодаря репостам групп, финансируемых Яном Таллином (соинвестором Anthropic) .
- Регуляторный захват: Сакс считает, что цель таких вбросов — создать общественную панику, чтобы добиться появления «Федерального департамента ИИ», который фактически введет цензуру и запретит открытый исходный код (open source) под предлогом безопасности .
- Политическая выгода: Берни Сандерс уже использовал этот инцидент для предложения законопроекта о запрете «суперинтеллекта» и паузе в разработках .
Дэвид Фридберг сравнил текущую ситуацию с «социальной паникой» вокруг ядерной энергетики или пандемии COVID-19, когда страх перед неизвестным используется для централизации власти . Он отметил, что история человечества всегда сопровождалась предсказаниями конца света, которые позволяли структурам контроля укреплять свое влияние .
🏦 Проблемы с IPO Anthropic и юридические риски 9:42
Чамат Палихапития указал на серьезное противоречие в действиях Anthropic. Компания находится в процессе подготовки к IPO, претендуя на оценку в триллионы долларов, и в то же время её топ-менеджеры заявляют, что их основной продукт может уничтожить цивилизацию .
Основные тезисы Чамата:
- Ответственность за продукт: Если компания признает 10-процентную вероятность катастрофы, это создает беспрецедентные риски ответственности. Любой сбой ИИ в будущем может обернуться коллективными исками .
- Выбор для руководства: Anthropic придется либо официально отречься от слов Коксина, назвав их фантастикой, либо согласиться с Берни Сандерсом о заморозке разработок, что сделает IPO невозможным .
- Конфликт в коллективе: Внутри компании существует мощная группа «думеров», и если руководство публично их опровергнет, это может вызвать бунт сотрудников .
Дэвид Сакс добавил, что Anthropic пытается продвигать «спасительный комплекс»: якобы ИИ слишком опасен в чужих руках, но безопасен в их «мудрых и добродетельных» руках, что является попыткой создать монополию .
🧮 Математический прорыв OpenAI: грубая сила против гениальности 58:45
OpenAI объявила о решении уравнения Навье-Стокса — математической задачи с 200-летней историей, описывающей движение жидкостей и газов . Для этого было использовано 10 000 ИИ-агентов, которые сгенерировали 130 миллиардов токенов .
Дэвид Фридберг проанализировал этот успех:
- Это не «магическое озарение», а результат колоссального «брутфорса» (перебора). Объем проделанной работы эквивалентен 50 000 – 500 000 человеко-лет .
- ИИ — это рычаг, который сжимает десятилетия человеческого труда в минуты .
- Прорыв позволяет проектировать крылья самолетов или новые двигатели почти мгновенно, используя уже известные человечеству техники, но на сверхвысокой скорости .
🛡️ Кража данных и «ИИ-суверенитет» 1:03:05
В сообществе возникли подозрения, что OpenAI могла использовать данные ученых, которые вводили свои промежуточные выкладки в чат, чтобы «дообучить» модель и выдать результат за свой собственный . OpenAI заявила, что не может полностью исключить использование деидентифицированных данных пользователей для улучшения моделей .
Ведущие обсудили проблему «утечки альфы»:
- Фикция конфиденциальности: По мнению Чамата, функция «Zero Data Retention» (ZDR) — это часто маркетинговая уловка. Реальная утечка данных происходит на уровне нейронных связей модели .
- Риски для бизнеса: Директора по информационным технологиям (CIO) могут быть уволены в ближайший год из-за того, что доверили проприетарные данные (например, формулы новых лекарств или семян) облачным LLM .
- Решение: Ведущие рекомендуют компаниям переходить на «суверенные решения» — собственные серверы или выделенные облачные VPC (Virtual Private Cloud), где модель не имеет связи с общим обучающим корпусом .
Дэвид Фридберг поделился личным опытом: он замечал, как модель выдавала его собственные уникальные идеи в качестве ответов другим пользователям спустя некоторое время . Это заставило его компанию заказать собственные серверы на Mac Studio M5 для запуска локальных моделей .
👟 Крах Nike: потеря $200 млрд и уход из S&P 100 1:19:55
Nike была исключена из индекса S&P 100 спустя 18 лет пребывания в нем, её место заняла Palo Alto Networks . Капитализация компании упала на 80% от пика 2021 года .
Дэвид Сакс сформулировал тезис «Go woke, go broke» («Стань „повесточным“ — обанкроться»):
- Бренд, который всегда ассоциировался с «мастерством, победой и великими атлетами» (Майкл Джордан, Тайгер Вудс), начал продвигать людей, далеких от спорта .
- Использование Дилана Малвейни в рекламе и акцент на бодипозитиве разрушили «аспирационную» модель бренда — люди покупали Nike, чтобы быть похожими на лучших, а не на обычных или нездоровых людей .
Другие причины падения:
- Ошибка в стратегии продаж: Генеральный директор Джон Донахо перевел компанию на модель прямых продаж (DTC), разорвав отношения с ритейлерами. В итоге полки в магазинах заняли конкуренты — Hoka и On Running .
- Падение качества продукта: Дэвид Фридберг отметил, что кроссовки Nike стали «хлипкими» и начали разваливаться через 6 недель, что заставило его перейти на бренд Brooks .
- Неудачная реорганизация: Подразделения по видам спорта (баскетбол, футбол) заменили на категории «мужчины, женщины, дети», что размыло экспертизу внутри компании .
Чамат резюмировал: Nike потеряла свою «Полярную звезду» — стремление к совершенству. Если бренд вернется к идее триумфа воли и мастерства, у него есть шанс на возрождение .
