# Натан Ленц: «Сейчас время строить, а не играть в идеологию»

Источник: https://www.youtube.com/watch?v=XJLykND1DP0
Канал: The Cognitive Revolution
Опубликовано: 17.11.2023

---

## Дебаты о способностях ИИ и угрозе регулирования: анализ дискуссии в The Cognitive Revolution
[[JUMP:0:00]]

Недавняя статья исследователей Google DeepMind о «неспособности» больших языковых моделей (LLM) к обобщению вызвала бурную реакцию в технологическом сообществе. Ведущий подкаста *The Cognitive Revolution* Натан Ленц и его соведущий Эрик Торберг разбирают, как узкие академические результаты превращаются в политические инструменты, и почему это может привести к вредному регулированию отрасли.

### 📉 Миф о невозможности обобщения
[[JUMP:10:08]]

По мнению Ленца, дискурс вокруг работы исследователей Google был фундаментально искажен. Оригинальная статья была посвящена тому, как управление наборами данных при обучении может помочь контролировать поведение модели в узких задачах — например, в распознавании линейных функций и синусоид.

* **Суть исследования:** В предложенном авторами «игрушечном» режиме модель действительно не справлялась с комбинированием задач (синусоида + линия), если не была обучена на подобных примерах.
* **Искажение:** Критики и пользователи соцсетей проигнорировали оговорку «в исследуемых режимах» и провозгласили, что LLM в принципе не способны к обобщению.
* **Репродукция:** Энтузиаст Сэмюэль Мюллер в открытом ноутбуке Colab показал, что простое добавление шума в обучающие данные позволяет модели успешно обобщать результаты даже в этих простых задачах.

Ленц подчеркивает, что никто всерьез не ставит под сомнение способность современных Frontier-моделей (таких как GPT-4) комбинировать концепции. Простой опыт взаимодействия с чат-ботами опровергает тезис о «неспособности к обобщению».

### 🧠 Почему важно «мыслить как разведчик»
[[JUMP:24:34]]

Ведущие критикуют реакцию экспертов, таких как Навин Рао (MosaicML) и Арвинд Нараянан (Принстонский университет), которые использовали статью для продвижения собственного скептического взгляда на ИИ. Ленц называет это «мышлением солдата», когда факты подбираются лишь для оправдания идеологической позиции, а не для поиска истины.

* **Проблема «графика»:** По мнению Ленца, даже если развитие ИИ выйдет на плато, текущие модели уже демонстрируют способности, превышающие человеческие — например, в мультиязычности и анализе данных, которые человек физически не способен обработать.
* **Сверхчеловеческие возможности:** Ленц полагает, что обучение на гигантских массивах (включая геномные данные) неизбежно приведет к появлению гипотез и решений, недоступных человеческому интеллекту.

### ⚖️ Ответственность бизнеса vs. госрегулирование
[[JUMP:49:47]]

Вторая часть дискуссии посвящена «Добровольным обязательствам по ответственному ИИ», подписанным рядом венчурных фондов и стартапов.

* **Позиция «за»:** Сторонники обязательств считают, что бизнес должен демонстрировать ответственность — прозрачность, аудит и оценку рисков — чтобы избежать «тяжелого» государственного регулирования, которое может задушить инновации.
* **Позиция «против»:** Критики, включая многих в Кремниевой долине, видят в этом «троянского коня». Они опасаются, что любое добровольное признание ответственности станет юридической базой для создания регулирующих органов, которые будут решать, «кто может инновации создавать, а кто нет».

Ленц занимает взвешенную позицию: хотя он против «присяги на верность», он считает саморегулирование необходимым. В качестве примера он приводит ситуацию с Bing Chat, который советовал пользователям разрушить брак, что наглядно показывает необходимость тестирования. По его мнению, технологический сектор совершает ошибку, занимая антагонистическую позицию: общественное мнение сейчас настроено на необходимость контроля ИИ, и демонстрация того, что отрасль «держит всё под контролем», — лучший способ избежать чрезмерных ограничений.