Технологический журналист Карен Хао в интервью для подкаста Eye on AI анализирует внутренние механизмы и идеологические расколы внутри OpenAI, ставшие очевидными после скандального увольнения и возвращения Сэма Олтмена. В центре дискуссии — конфликт между миссией по созданию безопасного ИИ для человечества и реальностью жесткой коммерческой конкуренции, подкрепленной миллиардными инвестициями Microsoft.
🏛 Структура OpenAI: Гибрид во благо или «фиговый листок»? 11:35
Корпоративное устройство OpenAI, сочетающее в себе некоммерческую организацию и дочернюю компанию с ограниченной прибылью (capped-profit), изначально позиционировалось как инновационное решение для привлечения капитала без потери этических ориентиров. Грег Брокман, по словам Карен Хао, искренне верил, что эта структура позволит лаборатории собрать необходимые средства на разработку ИИ, не становясь заложником интересов акционеров.
Однако Карен Хао утверждает, что реальность оказалась далека от заявленных идеалов:
- Иллюзия прозрачности: По мнению журналистки, нарратив о «прозрачном и подотчетном человечеству ИИ» является фикцией, а само название OpenAI (Открытый ИИ) больше не соответствует действительности.
- Концентрация власти: Структура фактически закрепила власть в руках узкого круга лиц — Сэма Олтмена, Грега Брокмана и Ильи Суцкевера.
- Провал механизма сдержек: Хотя совет директоров формально выполнил свою роль, уволив Олтмена за несоответствие миссии, бурная реакция команды и последующее возвращение CEO показали, что руководство не готово к тому, чтобы эти механизмы работали против них.
📈 Роль Microsoft: Финансовый фундамент и операционные риски 26:36
Взаимоотношения OpenAI и Microsoft выходят далеко за рамки простых инвестиций. На бумаге Microsoft объявила о вложениях в размере более 12 млрд долларов. Однако реальный масштаб сотрудничества гораздо шире.
Согласно данным Карен Хао, Microsoft планирует инвестировать более 50 млрд долларов в новые дата-центры в следующем году. Хотя не все эти мощности предназначены исключительно для OpenAI, успех облачного подразделения Azure и рекордный рост акций Microsoft напрямую зависят от этого партнерства. Как отмечает гостья подкаста, судьба технологического гиганта теперь неразрывно связана с состоянием дел в OpenAI.
🛡 Проблема открытости: Почему корпорации боятся Open Source? 18:07
Обсуждая вопрос открытого исходного кода, Хао и ведущий Крейг Смит затронули позицию Яна Лекуна и практику компании Meta. Несмотря на заявления об открытости модели Llama 2, компания отказалась публиковать данные, на которых обучалась нейросеть.
Основными причинами отказа от полной прозрачности Карен Хао считает:
- Юридическая ответственность: Компании опасаются судебных исков, так как данные для обучения часто не проходят должной фильтрации.
- Репутационные риски: Публикация наборов данных может выявить наличие сомнительного или неэтичного контента.
- Экономические интересы: Компании годами использовали неоплаченный контент и только недавно начали заключать сделки с правообладателями, такими как Shutterstock.
По мнению Хао, принуждение к открытости могло бы стать «функцией принуждения» для улучшения качества систем: компаниям пришлось бы тщательнее очищать данные и платить создателям контента дивиденды.
🚀 Путь к AGI: Скептицизм, определения и цена обучения 34:38
Одной из самых спорных тем остается достижение общего искусственного интеллекта (AGI). Карен Хао выражает глубокий скептицизм по поводу текущих прогнозов, указывая на отсутствие единого научного определения интеллекта как в биологии, так и в ИИ.
Ключевые тезисы дискуссии о будущем технологий:
- AGI как риторический инструмент: По мнению гостьи, термин AGI используется компаниями как магическая обертка, позволяющая двигаться в любом направлении под предлогом великой цели.
- Экзистенциальные риски: Джефф Хинтон, изменивший свое мнение об угрозе ИИ, теперь опасается способности «цифрового интеллекта» мгновенно обмениваться знаниями и влиять на реальный мир.
- Финансовый барьер: Дарио Амодеи из Anthropic утверждает, что стоимость обучения моделей растет экспоненциально: от текущих 100 млн долларов до прогнозируемых 10 млрд долларов в ближайшие два года.
⚙️ Аппаратный тупик: Амбиции Олтмена и доминирование TSMC 31:34
Слухи о планах Сэма Олтмена запустить собственное производство чипов для конкуренции с Nvidia сталкиваются с суровой реальностью полупроводниковой индустрии. Хао подчеркивает, что разработка дизайна чипов не решает проблему их физического производства.
Единственным стабильным и значимым производителем в мире остается TSMC (наряду с Samsung и несколькими мелкими игроками). Независимо от того, сколько новых компаний по разработке микросхем появится на рынке, все они в конечном итоге окажутся в одной очереди на заводы TSMC. Журналистка предполагает, что интерес Олтмена к «железу» может быть связан не только с обходом дефицита Nvidia, но и с попыткой оптимизировать обучение моделей на аппаратном уровне.
