# Гари Маркус о будущем ИИ: от чат-ботов до угрозы демократии

Источник: https://www.youtube.com/watch?v=Puo3VkPkNZ4
Канал: WIRED
Опубликовано: 21.03.2023

---

Известный эксперт в области искусственного интеллекта Гари Маркус в специальном выпуске техподдержки для **WIRED** отвечает на вопросы пользователей Twitter о будущем чат-ботов, безопасности нейросетей и фундаментальных различиях между человеческим разумом и алгоритмами. Видео охватывает широкий спектр тем: от возможности ИИ заменить студенческие эссе до технических аспектов обучения больших языковых моделей.

## 🎓 ИИ в образовании: конец эпохи эссе?
[[JUMP:0:00]]

Появление ChatGPT вызвало волну опасений в академической среде, однако Гари Маркус считает, что это не конец формата эссе, а начало его трансформации [0:12]. На текущем этапе нейросети пишут работы среднего уровня («на троечку»), и преподавателям стоит изменить подход к заданиям [0:24].

**Рекомендации эксперта для преподавателей:**

*   Разрешать использование ChatGPT как инструмента для черновиков.
*   Акцентировать внимание на критическом разборе того, что выдала нейросеть.
*   Обсуждать со студентами, как сделать сгенерированный текст более интересным и глубоким.

Такой подход, по мнению Маркуса, не убивает эссе, а делает процесс обучения более сложным, увлекательным и развивает навыки критического мышления [0:24].

## 🚀 Почему 2022 год стал переломным для ИИ
[[JUMP:0:37]]

Существует несколько причин, по которым ИИ внезапно стал мейнстримом именно в 2022 году, хотя чат-боты существовали десятилетиями [0:50].

1.  **Качество «лжи»:** Раньше чат-боты говорили ужасные вещи и очевидно лгали. Современные модели научились «лгать» настолько правдоподобно и интересно, что это захватило внимание публики [1:02].
2.  **Глубокое обучение (Deep Learning):** Значительные успехи в этой области позволили создавать инструменты для улучшения изображений и продвинутые текстовые интерфейсы [1:15].
3.  **Доступность данных:** Современный ИИ чрезвычайно «прожорлив» в плане данных. Накопление критической массы информации позволило наконец «вкусить плоды» этих технологий [1:15].

## 🛠️ Техническое руководство: Как построить ИИ-империю
[[JUMP:1:28]]

Для тех, кто мечтает о создании компании стоимостью в триллион долларов, Гари Маркус дает несколько стратегических и технических советов, основываясь на своем опыте построения успешного стартапа.

### Шаг 1: Фундаментальное обучение
Вместо того чтобы изучать только популярные сегодня большие языковые модели (**LLM**), Маркус советует изучать историю и теорию ИИ максимально широко [1:53]. Конкуренты будут сфокусированы на хайпе, а глубокое понимание контекста даст преимущество.

### Шаг 2: Выбор ниши
Секрет успеха, по словам эксперта, заключается в решении проблем, которые игнорируют другие [1:41].

*   **Пример:** Его компания сфокусировалась на обучении систем в условиях дефицита данных, а не их избытка.

### Шаг 3: Техническая реализация (Построение LLM)
С технической точки зрения создание современной языковой модели включает следующие этапы [2:19]:

1.  **Создание нейронной сети:** Архитектура с узлами («нейронами»), связывающими входные данные с выходными.
2.  **Самообучение (Self-supervised learning):** Обучение сети предсказывать следующие элементы на основе связей, которые корректируются в процессе.
3.  **Внедрение трансформеров (Transformer models):** Использование механизма **Attention** («внимание») [2:57]. Это позволяет системе понимать, какие части предложения наиболее релевантны в конкретный момент, учитывая широкий контекст, а не только последние несколько слов [3:11].

## 🚗 Миф о беспилотниках и «проблема аутлайеров»
[[JUMP:3:37]]

Несмотря на громкие обещания, создание по-настоящему беспилотного авто (уровня Uber без водителя) все еще остается сложной задачей [3:50].

Гари Маркус выделяет **проблему аутлайеров** (редких случаев) как главный барьер:

*   Нейросети обучаются на базе известных сценариев.
*   В реальном мире возникают ситуации, которых нет в обучающей выборке (например, столкновение Tesla с самолетом на летном поле) [4:02].
*   Таких «краевых случаев» бесконечное множество, и у разработчиков пока нет универсального решения.

По прогнозу Маркуса, в ближайшие годы мы увидим беспилотники только в ограниченных районах с предсказуемым трафиком, но полноценный отказ от вождения наступит еще нескоро [4:16].

## 🧠 Что такое интеллект и почему Тест Тюринга устарел
[[JUMP:4:30]]

Маркус считает Тест Тюринга плохим мерилом, так как людей слишком легко обмануть [4:43]. Вместо него он предлагает **«Испытание на понимание» (Comprehension Challenge)**: система должна посмотреть фильм или прочитать книгу и объяснить суть происходящего, например, почему персонаж ошибочно принял муляж за настоящую бомбу [4:56].

**Отличия человеческого интеллекта от машинного:**

*   **Гибкость:** Способность справляться с новыми, незнакомыми ситуациями [5:22].
*   **Моделирование мира:** Дети в процессе обучения действуют как «маленькие ученые», изучая гравитацию и причинно-следственные связи [6:27].
*   **Корреляция vs Причинность:** Современный ИИ просто ищет закономерности (корреляции) в данных, не понимая, как устроен мир на самом деле [6:13].

## ⚠️ Риски: От диктатуры до дезинформации
[[JUMP:6:39]]

Маркус скептически относится к идее «восстания машин» в стиле Скайнета, но видит реальные угрозы в другом.

**Основные опасности текущего этапа развития ИИ:**

*   **Неправильные решения:** Если ИИ, не понимающий устройство мира, будет управлять электросетями, он может совершить фатальную ошибку при столкновении с нестандартной ситуацией [7:04].
*   **Угроза демократии:** Способность нейросетей генерировать дезинформацию в промышленных масштабах может подорвать доверие людей к любым институтам и фактам [12:06]. Маркус опасается, что это прямой путь к фашизму из-за полной потери веры в систему [13:22].
*   **Рынок труда:** В ближайшее десятилетие под ударом окажутся коммерческие художники (не изобретающие новые стили) и кассиры в магазинах [10:49].

## 🧱 Стена Deep Learning
[[JUMP:9:41]]

Гари Маркус подтверждает свой тезис о том, что глубокое обучение «уперлось в стену». Несмотря на визуальную убедительность ответов Bing или Bard, проблемы с истинностью и надежностью данных не исчезают [10:09].

Для решения этой проблемы он предлагает переход к **нейросимволическому ИИ (Neuro-symbolic AI)** — гибридному подходу, который объединяет статистическую мощь нейросетей с логическим выводом и манипуляцией символами (фактами) [14:27]. Только так можно научить ИИ понимать, что если «все люди смертны, а Сократ — человек», то Сократ обязательно смертен, не полагаясь лишь на предсказание следующего слова [14:14].

## 🧬 ИИ и биология: Луч надежды
[[JUMP:7:17]]

Несмотря на критику, Маркус видит в ИИ колоссальный потенциал для науки.

*   **Медицина:** ИИ может помочь разобраться в 20 000 генов и миллионах белков, чтобы найти лекарство от болезни Альцгеймера [7:43].
*   **Климат:** Поиск новых материалов для эко-технологий.
*   **Забота о пожилых:** Создание роботов-помощников для стареющего населения, которым можно будет доверять [7:57].

В конечном итоге, по мнению Маркуса, человеческий мозг с его 100 миллиардами нейронов и невероятной энергоэффективностью все еще остается непревзойденным устройством [8:23]. Возможно, через 100 лет ситуация изменится, но пока мы лишь в начале пути понимания как собственного разума, так и создаваемого нами ИИ.

---