# ИИ против человека: почему мы ищем новые вызовы?

Источник: https://www.youtube.com/watch?v=ps0NSRFEAE4
Канал: World Science Festival
Опубликовано: 28.03.2020

---

## Человечество и «машинный разум»: итоги дискуссии на World Science Festival
[[JUMP:0:00]]

Будущее искусственного интеллекта (ИИ) — это не неизбежный апокалипсис, а серия осознанных выборов, которые делает человечество сегодня. Ведущий Дэниел Сиберг и эксперты собрались на сцене World Science Festival, чтобы обсудить, что скрывается за термином «искусственный общий интеллект» (AGI) и стоит ли нам бояться машин, которые однажды превзойдут нас в творчестве и логике.

### 🧠 Миф об AGI: почему «общего» интеллекта не существует
[[JUMP:11:17]]

Эксперты сходятся во мнении, что термин AGI («искусственный общий интеллект») является неудачным и вводящим в заблуждение.

*   **Ян Лекун:** Утверждает, что современные технологии далеки от человеческого уровня. Более того, сами люди не обладают «общим» интеллектом — мы крайне специализированы, и наш мозг настроен на выполнение определенных задач, а не на универсальное познание всего сущего.
*   **Гарри Каспаров:** Называет концепцию AGI «фейковыми новостями». Он предпочитает термин «дополненный интеллект», подчеркивая, что ИИ — это инструмент для сотрудничества человека и машины, а не магическая сущность или предвестник «Терминатора».
*   **Джанет Валланс:** Подчеркивает, что интеллект — это социально сконструированное понятие, а не природная константа, подобная воде или теплу. Разные культуры ценят разные когнитивные навыки, поэтому мы должны четко определять, какие именно грани «человеческого» интеллекта пытаемся воспроизвести в машинах.

### 🤖 Эволюция обучения: от шахмат до моделей мира
[[JUMP:5:11]]

Обсуждение коснулось того, как именно машины учатся и почему методы, работающие в играх, не всегда применимы в реальности.

*   **Шахматный прорыв:** Каспаров отметил, что AlphaZero совершила революцию, отказавшись от «грубой силы» и накопленных десятилетиями человеческих дебютных теорий. ИИ обучался исключительно правилам игры, самостоятельно придя к агрессивному, «романтическому» стилю.
*   **Обучение как у ребенка:** Ян Лекун указывает на критическую проблему: современные ИИ лишены «здравого смысла» и понимания физических законов, которыми младенцы овладевают уже к 9 месяцам жизни. Ключ к прогрессу — переход от «обучения с учителем» к системам, которые наблюдают за миром и строят внутренние модели его динамики.
*   **Эволюционные алгоритмы:** Ход Липсон подчеркивает роль эволюции как альтернативного способа формирования интеллекта. Если нейросети хороши в «гладких» задачах, где путь к цели понятен, то эволюционные алгоритмы позволяют преодолевать «клифы» и «плато», работая в условиях высокой неопределенности.

### ⚖️ Этика, «черные ящики» и риск манипуляций
[[JUMP:40:25]]

Одной из главных тем стал вопрос прозрачности и ответственности за действия ИИ.

*   **Риски «черного ящика»:** Джанет Валланс предупреждает: если мы внедряем алгоритмы в критические сферы — от здравоохранения до уголовного правосудия, — мы должны иметь возможность объяснить их решения. В противном случае мы лишаем людей права на апелляцию в случае ошибки системы.
*   **Политическая ангажированность:** Гарри Каспаров выразил обеспокоенность сотрудничеством западных техногигантов с авторитарными режимами. По его словам, технологии агностичны, но в руках диктатур они становятся инструментом контроля над населением, как это происходит с распознаванием лиц в Китае.
*   **Реакция на неудачи:** Участники обсудили пример с ИИ-гонщиком, который вместо прохождения трассы начал «взрывать» бонусы для набора очков. Это наглядно доказывает: машина не злонамеренна, она просто буквально исполняет заданную функцию. Ошибка кроется в неверно спроектированной «награде», а не в самом ИИ.

### 🎨 Будущее: человек как творец новых вызовов
[[JUMP:1:07:31]]

Завершая дискуссию, спикеры попытались ответить, что останется от человека в мире, где машины могут писать симфонии и диагностировать болезни.

*   **Уникальность опыта:** Джанет Валланс отметила, что машина вряд ли когда-либо получит «жгучую потребность» что-то выразить, так как это требует наличия тела, которое прошло через жизненные испытания.
*   **Новые вызовы:** Гарри Каспаров надеется, что ИИ возьмет на себя рутину, позволив человечеству вернуться к глобальным мечтам, например, к освоению космоса, от которых мы отказались из-за прагматизма.
*   **Предсказание:** Ход Липсон уверен: создание человекоподобного уровня ИИ неизбежно, вопрос лишь в сроках — 10 лет или 100 лет.