# ИИ против человечества: будет ли сверхразум нашим концом?

Источник: https://www.youtube.com/watch?v=IHc5Zt7qT6o
Канал: World Science Festival
Опубликовано: 09.03.2019

---

## Искусственный интеллект: путь к разуму или угроза человечеству?
[[JUMP:00:09]]

Мир будущего, где интеллектуальные машины выполняют сложную работу, всё больше напоминает голливудские сценарии, однако реальность развивается по своим, зачастую непредсказуемым законам. В рамках дискуссии эксперты обсудили эволюцию технологий — от жестких правил до машинного обучения — и попытались ответить на вопрос: может ли ИИ обрести чувства, сознание и стать полноценным партнером для человека или же это путь к исчезновению нашего вида.

### 🧬 Эволюция технологий: от логики к нейросетям
[[JUMP:00:38]]

Первые 50 лет развития ИИ базировались на правилах: инженеры прописывали логические цепочки, которым компьютер должен был слепо следовать. Такой подход позволил создать машины, способные играть в шашки на уровне мастера в 1957 году и победить чемпиона мира по шахматам в 1997-м.

Однако настоящий прорыв произошел с переходом к машинному обучению и нейронным сетям. По словам Яна Лекуна, главного научного сотрудника по ИИ в Facebook, современные системы обучаются на основе анализа огромных массивов данных. В отличие от жестких правил, нейросети, вдохновленные биологическим мозгом, позволяют решать задачи, которые ранее казались невыполнимыми:

*   **Распознавание образов:** С 2012 года компьютеры научились отличать кошек от собак на фотографиях, часто превосходя человека.
*   **Игровая эффективность:** AlphaGo достигла сверхчеловеческих результатов, играя миллионы партий против самой себя.
*   **Генеративные способности:** Современные нейросети уже создают изображения, музыку и инженерные проекты, превосходящие человеческие аналоги.

### 🧠 Загадка сознания и «углеродный шовинизм»
[[JUMP:32:04]]

Одной из самых острых тем стало определение сознания. Сьюзен Шнайдер, директор группы «ИИ, разум и общество» в Университете Коннектикута, определяет сознание как «ощущаемое качество опыта» — то, что чувствует человек изнутри в каждый момент своей жизни.

Макс Тегмарк, президент Future of Life Institute, называет отрицание сознания у машин «углеродным шовинизмом». По его мнению, утверждение, что умным может быть только то, что сделано из «мяса», — высокомерно. С точки зрения физики, мы состоим из тех же элементарных частиц, что и наши компьютеры, а интеллект — это способ обработки информации.

Тем не менее, среди ученых нет консенсуса:

*   Часть экспертов полагает, что ИИ никогда не будет обладать сознанием, так как оно требует биологического субстрата.
*   Другие считают, что сознание — это неизбежный побочный продукт высокой сложности обработки информации, необходимый для создания модели самого себя.

### 🛠 Модели мира: почему машина пока не как ребенок
[[JUMP:11:36]]

Несмотря на успехи, современные системы ИИ крайне ограничены. Ян Лекун подчеркивает, что нейросети обучаются на узкоспециальных задачах, требуя миллионов примеров. Человеческий ребенок же приобретает «интуитивную физику» (понимание, что объекты падают или скрываются за препятствиями) практически без специального обучения.

Питер Це, профессор когнитивной нейронауки Дартмутского университета, считает, что до настоящего ИИ нам далеко, так как существующие модели не обладают «ментальными моделями» и «когнитивными картами», позволяющими видеть невидимое — причинно-следственные связи и интенции других разумов.

### ⚠️ Риски: Терминатор или невидимый крах?
[[JUMP:05:11]]

В обществе доминирует «терминаторский» сценарий захвата власти агрессивными машинами. Однако Ян Лекун называет его глупым: стремление к власти не коррелирует с интеллектом, а является биологическим продуктом, связанным с тестостероном и эволюцией.

Макс Тегмарк предлагает взглянуть на ситуацию иначе. Риск заключается не в «злых» роботах, а в самой мощи сверхинтеллекта:

1.  **Концентрация власти:** Обладание AGI (сильным искусственным интеллектом) позволит компании, первой создавшей его, получить контроль над ресурсами планеты.
2.  **Проблема контроля:** Как заставить систему, превосходящую человеческий разум, всегда придерживаться наших целей? Это сложная задача, аналогичная воспитанию детей, но с гораздо более высокими ставками.