Смерть бенчмарков и «мягкая сингулярность»: как ИИ начнет обучать сам себя

Wes Roth 27,1 тыс. 1 ч 9 мин 4 мин 19.06.2025
Главное

В новом эпизоде подкаста Уэс Рот (Wes Roth) вместе с бывшими сотрудниками Google обсуждает тектонические сдвиги в индустрии ИИ. В центре внимания — сделка Meta по инвестированию 14 миллиардов долларов в Scale AI, новые стратегии поглощения компаний в обход регуляторов и последние научные работы, описывающие «рекурсивное самосовершенствование» нейросетей. Инсайдеры Кремниевой долины делятся своим видением того, почему Apple пытается дискредитировать возможности ИИ и как скоро автоматизация работы исследователей машинного обучения приведет к технологической сингулярности.

💰 Сделка Meta и Scale AI: игра на 14 миллиардов долларов 2:50

Meta находится на финальной стадии сделки по инвестированию 14 млрд долларов в Scale AI в обмен на долю в капитале . По словам собеседников Уэса Рота, это второе по величине приобретение Марка Цукерберга после WhatsApp. Несмотря на внушительную сумму, это составляет менее 1% рыночной капитализации Meta, что делает риск минимальным при огромном потенциале роста .

Ключевые факты о сделке:

Собеседники Уэса Рота отмечают, что Scale AI испытывает давление: компания не достигла цели по выручке в 1 млрд долларов в прошлом году, остановившись на отметке 870 млн . Причиной может быть «удлинение» циклов корпоративных продаж и рост популярности синтетических данных, которые снижают ценность ручной разметки — основного бизнеса Scale AI .

🛡️ Новая эра M&A: как обойти надзор FTC 5:55

В условиях жесткого давления со стороны Федеральной торговой комиссии (FTC) и Лины Хан, крупные техгиганты перешли от полных покупок к стратегиям «лицензирования и освобождения» (License and Release) .

Гости выделяют три типа сделок в Долине:

  1. Aqua-hire (Аква-найм): покупка команды без интереса к самому бизнесу или IP. По словам гостей, Google часто практиковал это, чтобы дать сотрудникам «золотые наручники» .
  2. License and Release (Лицензирование): покупка лицензии на IP и наем ключевых лиц. Компания остается формально независимой, что позволяет избежать антимонопольных проверок .
  3. Full Stock Purchase: полная покупка акций (например, Salesforce купил Slack), при которой инвесторы получают огромную прибыль .

Примеры «хитрых» лицензионных сделок:

Такие форматы позволяют корпорациям не брать на себя юридические риски и обязательства приобретаемых стартапов .

🍏 Почему Apple критикует возможности рассуждения ИИ? 35:18

Недавняя научная работа Apple, утверждающая, что LLM не способны к истинному рассуждению, вызвала скепсис у Уэса Рота и его гостей . По мнению собеседников, Apple намеренно подсвечивает ограничения моделей, чтобы оправдать собственное отставание в гонке вооружений ИИ .

Аргументы против позиции Apple:

Гости сравнили текущую ситуацию с цитатой Макса Планка: научная истина торжествует не потому, что оппоненты меняют мнение, а потому, что они со временем умирают, а новое поколение принимает новые технологии как данность .

🧬 Рекурсивное обучение: модели, которые тренируют сами себя 46:24

Обсуждение коснулось двух прорывных работ от Беркли и MIT, которые меняют представление об обучении моделей.

  1. Обучение без внешних наград (Беркли): Исследователи обнаружили, что использование «внутренней уверенности» модели в качестве сигнала для RL-обучения повышает точность ответов . Модель как бы «прислушивается к себе» и усиливает правильные сигналы .
  2. Самоадаптирующиеся модели (MIT): Нейросеть обучается менять собственные веса в реальном времени под конкретную задачу .

По словам гостей, это приближает нас к «автоматизированному исследователю машинного обучения» . Если ИИ сможет самостоятельно проводить эксперименты и улучшать код других нейросетей, наступит фаза взрывного роста .

🌌 «Мягкая сингулярность» Сэма Альтмана 1:04:42

В завершение Уэс Рот упомянул концепцию «нежной» или «мягкой сингулярности» Сэма Альтмана . Спикеры сошлись во мнении, что мы находимся на «личиночной стадии» рекурсивного самосовершенствования ИИ .

Ключевые прогнозы участников:

💬 Цитаты

«Новая научная истина торжествует не потому, что её оппоненты убеждаются... а потому, что они умирают.»

«Для Apple шрамом в мозгу стал провал Apple Maps. Теперь они боятся запускать что-то несовершенное.»

«Мы находимся на личиночной стадии рекурсивно улучшающегося ИИ.»

👥 Спикеры
🎬 Упомянутые фильмы и сериалы
🔗 Упомянутые сайты и проекты
📖 Термины
Aqua-hire
Тип сделки, при которой компания покупается исключительно ради найма её сотрудников.
LLM
Большая языковая модель, тип нейросети для обработки естественного языка.
RL (Reinforcement Learning)
Обучение с подкреплением, метод обучения ИИ через систему наград.
SFT (Supervised Fine-Tuning)
Тонкая настройка модели на размеченных данных под контролем человека.
📊 Цифры
⚖️ Другая сторона
Искусственный интеллект Meta Scale AI Уэс Рот Apple Llama 4