В новом выпуске своего блога Уэс Рот анализирует стремительные изменения в индустрии искусственного интеллекта: от попыток Google подготовиться к экономическому коллапсу из-за AGI до курьёзного, но тревожного ареста «вайбкодера» в Давосе. Автор рассматривает консолидацию технологических гигантов против OpenAI и обсуждает, почему ведущие учёные мира до сих пор не могут прийти к единому мнению о будущем языковых моделей.
📉 Экономика после AGI: Google нанимает пророка 0:00
На фоне растущих опасений по поводу массовой автоматизации рабочих мест, компания Google официально начала поиск специалиста на должность «главного экономиста по AGI» (Chief AGI Economist) . По мнению Уэса Рота, это одна из самых необычных и важных вакансий современности. Задачей этого человека станет исследование того, как изменится мир, когда искусственный интеллект сможет выполнять любую когнитивную и физическую работу лучше человека .
Шейн Легг, сооснователь DeepMind, утверждает, что пришествие сильного ИИ (AGI) неизбежно разрушит текущую экономическую модель . Он выделяет следующие аспекты этой проблемы:
- Крах системы обмена: Исторически люди обменивали свои когнитивные или физические способности на доступ к ресурсам (деньгам). AGI делает этот обмен бессмысленным .
- Сроки реализации: Легг оценивает вероятность появления «минимального AGI» к 2028 году в 50% . Примечательно, что этого прогноза он придерживается с 2009 года, задолго до бума нейросетей .
- Необходимость планирования: Несмотря на серьезность угрозы, на данный момент существует крайне мало детальных предложений о том, как должна функционировать экономика в мире без традиционной работы .
🚔 Драма в Давосе: Вайбкодер против швейцарской полиции 5:02
Одной из самых обсуждаемых историй недели стал инцидент с предпринимателем по имени Себастьян (Вайбкодер), который провел 13 часов в швейцарской тюрьме во время форума в Давосе . Причиной ареста стал его прототип устройства, который полиция приняла за самодельное взрывное устройство (IED) .
История развивалась следующим образом:
- Вайбкодер оставил свое устройство (крипто-кошелек с ИИ-модулем) на столике в отеле на 3 минуты, чтобы взять ролл с лососем .
- Спецслужбы оценили гаджет с торчащими проводами и 3D-печатным корпусом как «угрозу категории А» .
- Разработчика подвергли тщательному обыску, сняли отпечатки пальцев и изъяли таблетки для сна, заподозрив в них цианид .
Самым ироничным моментом стало техническое освидетельствование. Поскольку Себастьян — «вайбкодер», использующий ИИ-инструменты типа Cursor и Claude для написания кода, он сам не знал, как именно работает его прошивка . В итоге приглашенный эксперт-криминалист по имени Крис проводил аудит Rust-кода и объяснял самому разработчику архитектуру его собственного продукта . Эксперт остался впечатлен качеством кода, сгенерированного ИИ, и Вайбкодер был освобожден .
🛡️ OpenAI и новая шкала киберрисков 11:41
Сэм Альтман анонсировал серию запусков новых инструментов для работы с кодом, которые должны выйти в ближайший месяц . Однако вместе с новыми возможностями растет и уровень опасности. Согласно «Рамке готовности» (Preparedness Framework) OpenAI, категория кибербезопасности скоро может переместиться из зоны среднего риска в зону высокого риска .
Уэс Рот подчеркивает сложность этой ситуации:
- Двойное назначение: Инструменты ИИ могут одинаково эффективно использоваться как для поиска уязвимостей (защита), так и для создания вирусов (нападение) .
- Гонка вооружений: Существует риск, что ИИ позволит злоумышленникам автоматизировать атаки на критическую инфраструктуру в масштабах, к которым защита не готова .
- Пример Китая: Упоминается, что Китай уже совершает в среднем 2,63 миллиона попыток кибервторжений в системы Тайваня ежедневно .
По мнению Альтмана, единственным выходом является «ускорение обороны» — использование ИИ для максимально быстрого исправления багов во всем мировом ПО .
🇯🇵 Sakana AI: Альянс с Google и научные галлюцинации 17:28
Японская лаборатория Sakana AI объявила о стратегическом партнерстве с Google, который также вложил в стартап значительные средства . Sakana AI известна своими исследованиями в области самообучающихся систем, работающих по принципу эволюционного поиска .
Однако развитие ИИ-ученых сталкивается с проблемой достоверности. На конференции NeurIPS 2025 было обнаружено более 50 научных работ с галлюцинациями . Нейросети выдумывали несуществующих авторов, приписывали идеи случайным людям и ошибались в датах публикаций на годы .
Забавный пример: ИИ-ученый от Sakana AI использовал идеи Юргена Шмидхубера (известного своими претензиями на авторство многих базовых технологий ИИ), но в цитате указал совершенно другого человека . Уэс Рот иронизирует, что ИИ, вероятно, просто скопировал поведение людей-ученых, которые часто «забывают» цитировать Шмидхубера .
🧠 Ян Лекун против «стохастических попугаев» 22:31
Ян Лекун, один из «крестных отцов» ИИ, присоединился к новому стартапу Logical Intelligence в качестве председателя технического совета . Компания разрабатывает модель Kona, основанную на энергетическом принципе, где приоритетом является достоверность, а не вероятность .
Лекун продолжает активно критиковать современные большие языковые модели (LLM):
- Он считает, что LLM — это тупиковая ветвь на пути к AGI, так как они основаны на угадывании следующего слова, а не на понимании реальности .
- По мнению Лекуна, LLM никогда не смогут предсказывать физические последствия действий (например, куда сдвинется телефон при толчке), так как в книгах не описаны все законы физики . (Уэс Рот отмечает, что практика показывает обратное — GPT-4 отлично справляется с такими задачами ).
- Лекун утверждает, что мышление не тождественно языку. Уэс Рот предполагает, что это может быть связано с тем, что у самого Лекуна отсутствует «внутренний монолог» — феномен, характерный для 30-50% людей . Для тех, кто думает образами, идея «мышления словами» кажется абсурдной .
⚔️ Большая коалиция против OpenAI 31:30
На полях форума в Давосе наметился явный раскол. Google, Anthropic и Sakana AI формируют тесные связи . Участники рынка поговаривают, что индустрия коллективно решила «ополчиться» на OpenAI .
Конкурентов раздражают несколько факторов:
- Агрессивные попытки Сэма Альтмана монополизировать вычислительные мощности .
- Тот факт, что OpenAI до сих пор остается убыточной компанией, несмотря на огромные обязательства и выручку .
- Постоянные попытки OpenAI «перетянуть одеяло» на себя во время презентаций конкурентов (например, выпуская новости прямо перед ивентами Google) .
Google, долгое время считавшийся «спящим гигантом», перешел в наступление, инвестируя в такие футуристические проекты, как Project Suncatcher (дата-центры в космосе) , чтобы вернуть себе лидерство в эпоху ИИ.
