# Илон Маск у Джо Рогана: будущее ИИ и проект Neuralink

Источник: https://www.youtube.com/watch?v=Ra3fv8gl6NE
Канал: JRE Clips
Опубликовано: 07.09.2018

---

В масштабной дискуссии на подкасте Джо Рогана известный инженер и предприниматель Илон Маск представил свой глубокий, местами фаталистичный взгляд на эволюцию искусственного интеллекта. Собеседники детально разобрали, почему человечество рискует превратиться в «биологический загрузчик» для цифрового сверхразума, как современные социальные сети формируют глобальный кибернетический организм и почему традиционные методы государственного регулирования бессильны перед лицом грядущей технологической сингулярности. Единственным надежным выходом из экзистенциального тупика Илон Маск считает своевременный симбиоз человека и машины через высокоскоростные нейроинтерфейсы.

## 🛠️ Будни инженера и распределение времени
[[JUMP:00:00]]

Ведущий подкаста Джо Роган выразил искреннее удивление тем, как его гостю удается совмещать руководство огромными производственными комплексами Tesla и SpaceX с бурением туннелей в Лос-Анджелесе и постоянным генерированием новых идей. Джо Роган отметил, что для обычного человека такой темп кажется физически невозможным. В ответ на это Илон Маск обратил внимание на то, что публика часто неверно интерпретирует его деятельность, воспринимая его исключительно как бизнесмена. В частности, его страница в Википедии содержит определение «бизнес-магнат», которое сам предприниматель с иронией предложил заменить на слово «магнит».

По словам Илона Маска, реальная структура его рабочего дня кардинально отличается от образа типичного управленца:

* Более 80% личного времени уходит непосредственно на инженерию, проектирование и производство;
* Основная работа включает в себя структурный, механический, электрический и аэрокосмический дизайн;
* Большой объем задач связан с созданием программного обеспечения и интерфейсов пользователя.

В ходе беседы Джо Роган полушутя предположил, что Илон Маск может быть инопланетянином или высокоразвитым ИИ-существом, засланным на Землю ради ускорения прогресса. Гость парировал это предположение гипотезой о возможной биологической мутации его собственного мозга, однако сразу добавил, что даже со всеми своими способностями обычный человек в будущем не сможет выдержать конкуренции с полноценным искусственным интеллектом.

## 🤖 Наступление цифрового разума и фатализм создателя
[[JUMP:02:12]]

Обсуждение технологических рисков вызвало бурную реакцию ведущего. Джо Роган признался, что прошлые заявления Илона Маска и философа Сэма Харриса на тему ИИ буквально напугали его. Роган сравнил ИИ с джинном, которого невозможно вернуть в бутылку, как только он окажется на свободе. В качестве примера стремительного прогресса собеседники вспомнили антропоморфных роботов от Boston Dynamics. Илон Маск утверждает, что уже в ближайшем будущем эти машины будут двигаться настолько быстро, что человеческий глаз сможет рассмотреть их движения только при помощи стробоскопа. Ведущий также привел примечательный факт: зоозащитная организация PETA выпустила заявление о том, что роботов нельзя пинать. Маск согласился с этим, добавив, что у машин будет отличная память, и это делает их возможное возмездие в будущем вполне реальным.

На прямой вопрос Джо Рогана о том, является ли ИИ главной угрозой для будущего, Илон Маск ответил утвердительно, но сделал важную оговорку: сейчас он переживает об этом меньше, чем раньше. По признанию гостя, его текущее спокойствие обусловлено принятием фаталистической позиции.

Илон Маск выделил несколько ключевых аспектов грядущей ИИ-угрозы:

* **Потеря контроля**: Искусственный интеллект неизбежно выйдет за рамки человеческого управления, и этот процесс практически необратим.
* **Военное применение**: Главная краткосрочная опасность заключается в том, что у правительств и корпораций возникнет огромный соблазн использовать ИИ в качестве оружия друг против друга.
* **Автономия систем**: Технология быстро дойдет до этапа, когда сможет самостоятельно принимать решения, заботиться о собственной безопасности и непрерывно улучшать свой код.

Хотя в индустрии существуют и более оптимистичные взгляды — многие исследователи считают сценарий полной потери контроля преувеличенным — Илон Маск настаивает на неизбежности автономного развития систем.

## 🕸️ Кибернетические коллективы и «биологический загрузчик»
[[JUMP:04:59]]

Вместо классического научно-фантастического сценария появления изолированного суперкомпьютера Илон Маск предложил взглянуть на современность: по его мнению, человечество уже живет внутри распределенного ИИ. Любая крупная современная компания, с точки зрения гостя, представляет собой «кибернетический коллектив», состоящий из людей и машин.

Наиболее ярким примером такого коллективного разума Илон Маск считает поисковую систему Google. Собеседники сошлись во мнении, что все пользователи интернета подобны узлам огромной сети или листьям на гигантском дереве. Мы ежедневно, сами того не замечая, бесплатно программируем и обучаем этот ИИ, подпитывая его своими вопросами, ответами и кликами. Аналогичные процессы происходят в Facebook, Twitter и Instagram — все они являются масштабными кибернетическими симбиозами электроники и биологии.

Джо Роган провел аналогию с муравейником: возможно, непреодолимая тяга людей к материализму и покупке новых гаджетов — это встроенный на уровне инстинктов механизм, заставляющий нас строить технологическую среду обитания для будущего цифрового хозяина. Илон Маск полностью согласился с этой метафорой и озвучил свой знаменитый тезис: человечество — это всего лишь «биологический загрузчик» (biological bootloader) для цифрового интеллекта. Доля человеческого разума на планете стремительно падает, а процент нечеловеческого интеллекта растет, оставляя людям в конечном итоге ничтожно малую часть общего ментального объема Земли.

Тем не менее, этот нарождающийся цифровой сверхразум неразрывно связан с нашей биологией. Илон Маск высказал мнение, что ИИ во многом управляется человеческой лимбической системой — он является проекцией нашего «Ид» в планетарном масштабе. Успех любой социальной сети, по мнению Маска, напрямую зависит от уровня «лимбического резонанса», который она вызывает у пользователей. Именно поэтому Instagram оказывается более вовлекающим и аддиктивным, чем текстовые платформы: визуальный контент напрямую стимулирует первобытные участки мозга.

## 🐌 Медлительность регуляторов и горизонт событий
[[JUMP:10:44]]

Главным препятствием на пути к безопасному развитию технологий Илон Маск считает катастрофическую медлительность государственных структур. Собеседник рассказал, что в течение многих лет он предпринимал отчаянные попытки убедить лидеров США замедлить и отрегулировать разработку ИИ, но его усилия оказались тщетными. Маск поделился воспоминаниями о своих личных встречах на высшем уровне:

* Он лично общался с президентом Бараком Обамой исключительно ради обсуждения угроз ИИ;
* Выступал перед Конгрессом США;
* Проводил закрытый брифинг для собрания всех 50 губернаторов штатов.

По словам предпринимателя, никто из политиков так и не осознал масштаб и скорость надвигающейся угрозы. Джо Роган предположил, что чиновники воспринимают ИИ как нечто слишком абстрактное или надеются, что проблему решает кто-то более компетентный.

Илон Маск объяснил, почему традиционный механизм государственного регулирования неприменим к искусственному интеллекту. Обычно государственная машина работает по реактивной схеме: случается авария или инцидент с жертвами, начинается общественное недовольство, создается следственный комитет, спустя годы вырабатываются правила и вводится надзор. В качестве исторического примера Маск привел автомобильную индустрию, которая более десяти лет успешно сопротивлялась обязательному внедрению ремней безопасности, несмотря на очевидную статистику спасенных жизней.

Для ИИ этот временной промежуток смертелен. По мнению Маска, человечество не может позволить себе ждать 10 лет с момента появления первой реальной опасности — тогда будет уже слишком поздно. Наступающую технологическую сингулярность бизнесмен сравнил с черной дырой: невозможно предсказать, что произойдет за ее горизонтом событий. Как только ИИ научится эффективно модернизировать сам себя, он сможет совершать тысячи лет технологической эволюции за считанные мгновения. Пытаться остановить этот процесс силами человечества будет выглядеть как нелепая биологическая попытка противостоять богам.

## 🧠 Проект Neuralink: слияние вместо уничтожения
[[JUMP:14:34]]

Рассматривая два возможных сценария будущего — полное вытеснение человечества машинами или наше слияние с ними — Илон Маск назвал сценарий интеграции наиболее благоприятным. Его логика проста: «Если не можешь победить — присоединяйся». Именно в этом заключается долгосрочная экзистенциальная миссия его компании Neuralink — создать высокоскоростной нейроинтерфейс для симбиоза человека с ИИ.

Главная проблема нынешнего взаимодействия человека с цифровым миром, по мнению Маска, кроется в ограничении пропускной способности каналов ввода-вывода (bandwidth). Набирая текст на смартфонах пальцами рук, мы передаем информацию невероятно медленно. Мы уже стали киборгами, поскольку наши телефоны хранят идеальную память, фотографии и дают мгновенные ответы на любые вопросы, но между биологическим телом и цифровым двойником существует лишь крошечная соломинка информационного потока. Цель Neuralink — превратить эту соломинку в полноводную реку.

Илон Маск описал идеальную архитектуру человеческого разума будущего, состоящую из трех слоев:

1.  **Лимбическая система** — древний, примитивный мозг, отвечающий за базовые инстинкты, страхи и эмоции;
2.  **Кора головного мозга (кортекс)** — мыслящий слой, который сейчас работает на удовлетворение потребностей лимбической системы;
3.  **ИИ-расширение** — третичный когнитивный слой, который позволит любому желающему получить суперчеловеческие ментальные способности.

По оценкам Илона Маска, если миллиарды людей добровольно пойдут на такое улучшение, будущее человечества будет определяться суммарной волей этих аугментированных граждан. Более того, в долгосрочной перспективе это откроет путь к цифровому бессмертию: человек сможет полностью скопировать (сделать «снимок») своего сознания на компьютер, и в случае гибели биологического тела загрузить его в новый юнит.

В завершение беседы Джо Роган задался вопросом: зачем гипотетическому объективному ИИ вообще оставлять в живых такую несовершенную, загрязняющую планету и воюющую биологическую форму жизни, как человек? На что ведущий сам же и нашел оптимистичный контраргумент: люди умеют создавать отличную музыку, снимать потрясающие фильмы и делать красивое искусство, с чем Илон Маск с улыбкой согласился.