# Арвинд Нараянан: «ИИ-компании ошиблись, ожидая, что правила рынка на них не действуют»

Источник: https://www.youtube.com/watch?v=8CvjVAyB4O4
Канал: 20VC (Harry Stebbings)
Опубликовано: 28.08.2024

---

В новом выпуске подкаста 20VC Гарри Стеббингс беседует с профессором Принстонского университета Арвиндом Нараянаном о текущем кризисе ожиданий в индустрии искусственного интеллекта. Исследователь объясняет, почему эпоха «слепого масштабирования» подходит к концу, в какие ловушки попали лидеры рынка и почему будущее за компактными моделями и узкоспециализированными продуктами, а не за мифическим «Богом из машины».

## 📉 ИИ против Криптовалют: Уроки разочарования
[[JUMP:01:16]]

Арвинд Нараянан провел годы, изучая блокчейн и децентрализацию, надеясь, что эти технологии реформируют общественные институты, включая науку и банковское дело [01:30]. Однако к 2018 году исследователь разочаровался в криптоиндустрии. Его основные претензии заключались в следующем:

*   **Технологический тупик:** В вопросах помощи людям без доступа к банковским услугам (unbanked) узким местом оказалась не технология, а юридические и социальные барьеры [01:56].
*   **Философский разрыв:** Вместо реального реформирования институтов, сообщество пыталось заменить их «скриптами», что Арвинд считает неверным подходом [02:24].

Сравнивая текущий ажиотаж вокруг ИИ с криптобумом, гость отмечает существенное различие: несмотря на риски, ИИ уже приносит чистую пользу обществу (net positive), чего нельзя сказать о биткоине [02:50]. Тем не менее, по мнению Арвинда Нараянана, ИИ-компании совершили критическую ошибку в последние два года. Они поверили, что их продукт настолько уникален, что обычные правила бизнеса — поиск Product-Market Fit и создание удобных интерфейсов — к ним не относятся [03:29]. Разработчики ожидали, что пользователи сами придумают, что делать с моделями, вместо того чтобы создавать готовые решения [03:41].

## 🧱 Тупик масштабирования и дефицит данных
[[JUMP:03:54]]

Главный вопрос индустрии сегодня: ведет ли простое увеличение вычислительных мощностей (compute) к росту производительности? Кевин Скотт из Microsoft утверждает, что потенциал роста огромен, но Арвинд Нараянан настроен скептически [04:06].

Основные тезисы Арвинда о «потолке» развития:

1.  **Замедление прогресса:** Разрыв между GPT-3.5 и GPT-4 был огромным благодаря увеличению параметров и данных, но Арвинд сомневается, что GPT-5 совершит аналогичный рывок [05:42].
2.  **Информационный голод:** Модели уже обучены практически на всех доступных человечеству качественных данных [05:03].
3.  **Иллюзия YouTube:** Гарри Стеббингс предположил, что 150 миллиардов часов видео на YouTube — это огромный резерв [06:06]. Арвинд возражает: если извлечь из видео текст (токены), объем окажется на порядок меньше, чем уже использованные наборы данных [06:46].
4.  **Проблема синтетических данных:** Идея обучать модели на данных, созданных другими моделями, кажется Арвинду «змеей, кусающей себя за хвост» [09:00]. В ИИ качество данных критически важнее их количества. Синтетика может помочь в специфических задачах (математика, редкие языки), но не создаст новых фундаментальных возможностей [09:12].

## 📱 Тренд на малые модели и «Парадокс Джевонса»
[[JUMP:12:08]]

По мнению Арвинда Нараянана, внедрение ИИ сегодня тормозится не отсутствием способностей у моделей, а их стоимостью и сложностью интеграции [12:37]. Это порождает тренд на уменьшение моделей.

Преимущества маленьких моделей:

*   **Работа на устройстве:** Это решает вопросы приватности (обработка скриншотов или разговоров без отправки в облако) [13:02].
*   **Экономия:** Компании тратят огромные суммы на инференс (выполнение запросов), и уменьшение размера модели — прямой путь к снижению расходов [13:15].

Однако здесь вступает в силу **парадокс Джевонса**: когда ресурс (вычисления) становится дешевле и эффективнее, его суммарное потребление растет, а не падает [13:53]. По прогнозу гостя, компании будут тратить сэкономленные деньги на то, чтобы заставлять модель переделывать одну и ту же задачу миллионы раз для выбора идеального результата (например, при написании кода), что в итоге только увеличит спрос на чипы [15:09].

## 🧠 Мифы об AGI и «галлюцинации» CEO
[[JUMP:18:12]]

Арвинд Нараянан считает современные бенчмарки (тесты производительности) «минным полем» [18:12]. Разработчики намеренно или случайно оптимизируют модели под тесты, что создает иллюзию прогресса. Когда OpenAI заявляла, что GPT-4 сдала экзамен на адвоката, это не значило, что модель может работать юристом, так как работа юриста не состоит из ответов на тесты [19:04].

Относительно прогнозов Сэма Альтмана и Илона Маска о скором достижении AGI (общего искусственного интеллекта), Арвинд приводит историческую аналогию:

*   В течение 50 лет исследователи (включая Алана Тьюринга) считали, что AGI «не за горами» [21:00].
*   Прогресс в ИИ похож на восхождение на гору: как только вы поднимаетесь выше, открывается новый слой сложности, который раньше не был виден [21:39].

Арвинд отмечает раскол в индустрии: OpenAI все больше уходит в сторону коммерческих продуктов, в то время как Anthropic переманивает таланты, сфокусированные на долгосрочных исследованиях супер-интеллекта [23:01].

## ⚖️ Регулирование: глубокие фейки и «дивиденд лжеца»
[[JUMP:27:11]]

Арвинд Нараянан утверждает, что термин «регулирование ИИ» часто вводит в заблуждение. На самом деле нужно регулировать вредную деятельность, а не саму технологию [28:14]. Например, FTC в США запретила фальшивые отзывы — и неважно, написаны они человеком или ИИ [28:14].

Ключевые угрозы и мнения по безопасности:

*   **Дивиденд лжеца:** Главная опасность не в том, что люди поверят в фейковые новости, а в том, что они перестанут верить реальным новостям [29:48].
*   **Deepfake-порнография:** Арвинд считает это более серьезной и недооцененной проблемой, чем политическую дезинформацию [34:35].
*   **Образование:** ИИ накладывает огромные издержки на учителей, которым приходится полностью менять систему оценки знаний, так как отличить эссе от нейросети невозможно [35:42].

## 🏥 Медицина, образование и рабочие места
[[JUMP:36:10]]

Гость и ведущий сошлись в скептическом отношении к идее «терапевта в кармане» [36:38]. Гарри Стеббингс справедливо замечает, что ИИ не может физически осмотреть пациента или заглянуть ему в нос [36:24]. По мнению Арвинда, ИИ в медицине — это лишь «технологический пластырь» для стран с плохим доступом к врачам. В развитых системах он должен помогать врачам (анализ снимков, резюме записей), а не заменять их [37:18].

Аналогично в образовании: социальный аспект обучения (желание впечатлить учителя, личный контакт) критически важен для большинства студентов. Арвинд, который сам является самоучкой, признает, что для таких как он ИИ — невероятный инструмент, но для основной массы учеников он не заменит человеческого наставника [39:17].

В вопросе замещения рабочих мест Арвинд сохраняет оптимизм. Он приводит пример банковских кассиров: после появления банкоматов (ATM) количество кассиров в США выросло, так как открытие филиалов стало дешевле, а люди переключились на более сложные задачи, которые автомат выполнить не мог [40:47]. ИИ автоматизирует **задачи**, а не **профессии целиком** [41:24].

## 🛡️ Оборона и будущее открытых моделей
[[JUMP:41:50]]

Алекс Ванг из Scale AI ранее утверждал, что ИИ — это оружие мощнее ядерного. Арвинд Нараянан считает это «категориальной ошибкой» [42:03]. Ядерная бомба — это конкретный объект, а ИИ — это технология двойного назначения, которая уже работает на личных устройствах.

Арвинд выступает за открытость моделей по двум причинам:

1.  **Невозможность запрета:** Если одна страна закроет модели, другие — нет. «Плохие парни» все равно получат доступ [43:11].
2.  **Защита через нападение:** Сообщество должно использовать ИИ для обнаружения и исправления уязвимостей быстрее, чем их найдут злоумышленники. В кибербезопасности автоматизация уже 20 лет помогает защитникам [43:50].

В завершение Арвинд Нараянан признается, что год назад он был более оптимистичен в отношении скорости прогресса, будучи обманутым быстрым выходом GPT-4 [44:32]. Сейчас он понимает, что для следующего шага нужны не новые дата-центры, а фундаментальные научные идеи [45:22].