📰 Эпоха манифестов и цифрового мусора: о чем спорят в новом выпуске Hard Fork 0:00
На этой неделе подкаст Hard Fork разбирает новое 6500-словное эссе генерального директора Meta Марка Цукерберга «Будущее для всех» (The Future Is for Everyone), в котором описывается оптимистичное видение мира, где у каждого пользователя появится персональный суперразум. Авторы подкаста скептически отнеслись к инициативе, усмотрев за красивыми формулировками прагматичные лоббистские интересы компании, которая одновременно пытается отвлечь внимание от череды громких судебных поражений.
🐲 Аналогии с «Игрой престолов» и риски всеобщего суперразума 2:08
Ведущие провели параллель между концепцией всеобщего доступа к ИИ и сериалом «Дом Дракона», где обладание супероружием (драконами) двумя враждующими фракциями привело к кровавой гражданской войне. По мнению обозревателей, идея наделить абсолютно каждого человека персональным суперпомощником таит в себе колоссальные угрозы:
- Большинство людей действительно будут использовать агентов для безобидных задач вроде составления семейных рецептов выпечки.
- Однако злоумышленники получат инструменты для организации разрушительных кибератак и проектирования новых биопатогенов.
- Создание индивидуальных ИИ под ценности каждого пользователя в теории может позволить авторитарным режимам (например, КПК) применять технологии для подавления собственных граждан.
⚖️ Политический подтекст эссе и юридические проблемы Meta 5:56
За позитивной риторикой об искусственном интеллекте скрывается конкретный пакет требований к государственным регуляторам, выгодный бизнесу Meta:
- Ускорение процессов строительства дата-центров для поддержки облачного бизнеса компании.
- Сохранение экспортного контроля на передовые чипы, что дает преимущество моделям Meta с открытыми весами перед китайскими конкурентами.
- Смягчение ограничений на тренировочные данные, что должно помочь в судебных баталиях с правообладателями.
- Внедрение правовой защиты для дистилляции моделей — возможности использовать результаты работы чужих ИИ для обучения собственных систем.
Выход манифеста совпал с тяжелейшими судебными поражениями компании. На прошлой неделе судья в Нью-Мексико обязал Meta выплатить дополнительные $567 млн в фонд предотвращения ментальных проблем среди подростков (в дополнение к $374 млн гражданских штрафов). Платформы Facebook и Instagram были официально признаны общественной опасностью (public nuisance), а суд ввел жесткие ограничения, включая лимит в 90 часов в месяц для несовершеннолетних пользователей.
🤖 Шансы Meta в гонке за суперразумом 9:34
Несмотря на скепсис в отношении корпоративной культуры компании, эксперты отмечают возросшие амбиции Марка Цукерберга. Благодаря реорганизации подразделений и привлечению сильных инженеров, вероятность создания полноценного суперинтеллекта силами Meta оценивается уже примерно в 10% против 1% еще полгода назад. Главная опасность заключается в том, что руководство компании по привычке относится к технологии исключительно как к коммерческому инструменту, не осознавая в полной мере потенциальных экзистенциальных рисков.
🕵️♂️ Борьба со «слопом» и интервью с Максом Сперо 21:14
Во второй части выпуска гостем студии стал Макс Сперо, сооснователь и генеральный директор компании Pangram (ранее — Check for AI), создавшей ведущий детектор текстов, сгенерированных искусственным интеллектом.
- В отличие от старых систем, измерявших «перплексию» (предсказуемость токенов), классификатор Pangram обучается на огромных массивах верифицированных человеческих текстов (например, школьных эссе до 2022 года) и улавливает тончайшие паттерны слабых сигналов на уровне всего документа.
- Инструмент активно интегрируется на платформах вроде Substack, что вызывает ожесточенные споры среди авторов, использующих ИИ для написания рассылок.
- По словам Сперо, главная цель компании — защитить интернет от захвата ботами, количество которых напоминает о неизбежном будущем, где до 99% сетевого трафика будет приходиться на автономных агентов.
🧮 Running the Numbers: Теоретическая математика, SaaS и «чип-нерды» 44:33
Новая рубрика подкаста посвящена технологическим трендам сквозь призму математики и экономики:
- Гипотеза Римана: Сотрудник Anthropic Джаред Самнер во время пробежки попросил модель Claude помочь в решении сложнейшей математической задачи — и ИИ действительно продвинулся в исследовании дзета-функции, получая от разработчика простые слова поддержки и мотивации.
- Крах SaaS-оценки: Итальянская компания Bending Spoons приобрела платформу Airtable за $1,29 млрд при ее пиковой оценке в $11,7 млрд в 2021 году, что символизирует тяжелые времена для традиционного корпоративного софта на фоне экспансии ИИ.
- «Чип-нерды» на рынке труда и знакомств: В Южной Корее на фоне ИИ-бума резко выросла привлекательность инженеров Samsung и SK Hynix, получающих огромные шестизначные годовые бонусы, что радикально меняет динамику отношений и свиданий в стране.
