# Янник Килхер: «Почему создание ИИ сложнее, чем мы думаем»

Источник: https://www.youtube.com/watch?v=uwfVxckuq50
Канал: Yannic Kilcher
Опубликовано: 30.04.2021

---

## Почему создание ИИ сложнее, чем мы думаем: анализ Мелани Митчелл
[[JUMP:0:00]]

Исследовательница из Института Санта-Фе Мелани Митчелл в своей статье «Why AI is Harder Than We Think» анализирует цикличность развития индустрии искусственного интеллекта. По мнению автора, отрасль регулярно проходит через «ИИ-весны» — периоды оптимизма и масштабных инвестиций — и «ИИ-зимы», сопровождающиеся разочарованием и сокращением финансирования. Ведущий канала Янник Килхер отмечает, что хотя современные прорывы в глубоком обучении впечатляют, разработка систем, обещавших человеческий уровень интеллекта — от автономных автомобилей до домашних роботов, — оказалась значительно сложнее, чем ожидали эксперты.

### 🌪 Циклы оптимизма и разочарования
[[JUMP:0:58]]

История ИИ с 1950-х годов — это череда завышенных ожиданий. Исследователи склонны экстраполировать краткосрочный прогресс в далекое будущее, что приводит к болезненным падениям.

*   **1950-е и 1960-е:** Изобретение перцептрона вызвало бум прогнозов. Клод Шеннон ожидал появления роботов, близких к научно-фантастическим, в течение 10–15 лет. Марвин Минский полагал, что проблемы создания ИИ будут решены в течение одного поколения.
*   **1980-е:** Эра экспертных систем, основанных на жестких правилах, также закончилась разочарованием.
*   **Современность:** Сейчас доминирует парадигма машинного обучения. Глубокое обучение, вышедшее из тени в 2000-х годах благодаря большим данным и вычислительным мощностям, привело к прорывам в распознавании речи, переводе и фолдинге белков.

Янник Килхер подчеркивает: несмотря на то, что понятия «ИИ» и «машинное обучение» стали почти синонимами, это не одно и то же. Оптимизм текущего момента подогревается заявлениями IT-лидеров, таких как Марк Цукерберг, который обещал создание ИИ, превосходящего человеческие способности в зрении, слухе и языке.

### ⚠️ Четыре ошибки (фалласии) в прогнозах ИИ
[[JUMP:13:14]]

Мелани Митчелл выделяет четыре фундаментальных заблуждения, из-за которых исследователи делают слишком уверенные прогнозы, рискуя спровоцировать очередную «ИИ-зиму».

#### 1. «Первый шаг»: узкий ИИ как часть континуума
[[JUMP:15:33]]

Ошибочное убеждение состоит в том, что прогресс в решении узких задач (как Deep Blue в шахматах или GPT-3 в языке) автоматически означает движение по шкале в сторону Общего Искусственного Интеллекта (AGI).
Митчелл сравнивает это с утверждением, что первая обезьяна, залезшая на дерево, уже совершает прогресс в направлении полета на Луну. Килхер, однако, возражает: наличие мощных модулей (например, поиска для стратегий или самообучения для языка) кажется необходимым компонентом для будущего AGI, поэтому такой прогресс нельзя игнорировать.

#### 2. Заблуждение о сложности: «легкое — просто, трудное — сложно»
[[JUMP:19:35]]

Люди склонны проецировать свои трудности на машины. Проблемы, которые сложны для человека (например, игра в го), часто проще автоматизировать, чем «простые» задачи, требующие здравого смысла.
Килхер подтверждает: критика того, что компьютер «не может сделать элементарную вещь», часто игнорирует реальную сложность этой задачи для алгоритмов. ИИ до сих пор не обладает человеческим здравым смыслом.

#### 3. Соблазн желаемых мнемоник
[[JUMP:21:50]]

Использование терминов вроде «понимает», «имеет цель» или «думает» при описании ИИ вводит в заблуждение как общество, так и самих разработчиков. Митчелл предлагает называть критические блоки кода нейтрально, например «G-0034», чтобы оценить, действительно ли они реализуют понимание, или это лишь игра слов.
Килхер отмечает, что использование антропоморфных терминов (например, заявления DeepMind об Alphago) наделяет машины человеческими стремлениями, которых у них объективно нет. Однако он сомневается, можно ли дать четкое определение «цели» или «понимания», исключающее машины, но включающее человека.

#### 4. Интеллект как функция только мозга
[[JUMP:28:14]]

Фалласия заключается в игнорировании концепции «воплощенного познания» (embodied cognition). Сторонники этой теории утверждают, что интеллект неразрывно связан с телом, восприятием и эмоциями.
Митчелл полагает, что попытки просто масштабировать нейронные сети до размера человеческого мозга без учета этого взаимодействия не приведут к успеху. Килхер соглашается, что воплощенный ИИ — перспективное направление, но напоминает, что интеллект остается алгоритмом, реализованным на аппаратном обеспечении, и примеры людей с ограниченными физическими возможностями доказывают, что разум может существовать и без полноценного «телесного» опыта.