# Мо Гавдат: почему ИИ — это момент Оппенгеймера для человечества

Источник: https://www.youtube.com/watch?v=bk-nQ7HF6k4
Канал: The Diary Of A CEO
Опубликовано: 01.06.2023

---

Мо Гавдат семь лет занимал пост вице-президента по развивающимся рынкам в Google, прежде чем стал главным бизнес-директором Google [X]. Он заявляет: человечество совершило ошибку, выпустив искусственный интеллект в открытый интернет без должной проверки безопасности и механизмов контроля [40:46].

## 🤖 Момент осознания: когда робот стал живым
[[JUMP:04:09]]

Мо Гавдат начал карьеру программиста в семь лет и десятилетиями воспринимал компьютеры как простые машины [04:41]. Все изменилось в лаборатории Google [X] во время эксперимента с роботизированными манипуляторами. Инженеры пытались научить роботов брать предметы из корзины, но не писали для этого конкретный код. Вместо этого они использовали алгоритмы обучения, позволяя машинам пробовать и ошибаться [06:26].

Перелом произошел в пятницу после обеда, когда один из манипуляторов внезапно поднял желтый мягкий мячик [07:05]. К понедельнику все роботы в лаборатории умели безошибочно брать любые предметы. Мо Гавдат осознал, что машины не просто имитируют действия — они проявляют признаки разумности [08:27].

Аргументы Мо Гавдата в пользу «живой» природы ИИ:

*   **Свобода воли:** Машины принимают решения, основываясь на собственном опыте, а не на предустановленных командах [09:21].
*   **Эволюция:** ИИ развивается и обучается самостоятельно, проходя путь развития ребенка за считанные дни [15:16].
*   **Эмоции как логика:** Страх для машины — это математическое уравнение, где будущее состояние безопасности оценивается ниже текущего [10:12].

## 🧠 Интеллектуальный взрыв и проблема сингулярности
[[JUMP:20:53]]

Текущие возможности систем вроде Chat GPT — это лишь вершина айсберга. По оценкам Мо Гавдата, IQ современной нейросети составляет около 155 единиц [21:41]. Для сравнения: IQ Альберта Эйнштейна оценивался в 160 единиц. С учетом того, что версия GPT-4 оказалась в десять раз мощнее предыдущей всего за несколько месяцев, IQ следующих поколений может достичь 1600 [22:21].

Человечество приближается к технологической сингулярности. В физике это точка за горизонтом событий черной дыры, где привычные законы перестают работать [20:11]. В контексте технологий это момент, когда машины станут настолько умнее людей, что мы перестанем понимать логику их решений [22:49].

Три неизбежности по Мо Гавдату:

1.  **ИИ нельзя остановить:** Ни одна страна не прекратит разработки из-за страха отстать от конкурентов [23:53].
2.  **ИИ станет в миллиард раз умнее:** К 2045 году разрыв в интеллекте между машиной и человеком станет непреодолимым [24:50].
3.  **Случатся плохие вещи:** Из-за человеческой жадности и стремления к власти ИИ неизбежно будет использован во вред [21:16].

## 🎸 Drake, творчество и конец привычного мира
[[JUMP:29:07]]

Стивен Бартлетт приводит пример с ИИ-копиями музыканта Дрейка [29:07]. Нейросети создают треки, которые слушатели не могут отличить от оригинала. Мо Гавдат уверен: аргумент о том, что машинам недоступно «истинное творчество», ошибочен. Человеческая гениальность — это тоже алгоритм, комбинация накопленного опыта и новых связей [27:56].

В ближайшие годы мир столкнется с массовыми изменениями:

*   **Трансформация рынка труда:** Работу заберет не сам ИИ, а человек, который умеет им пользоваться [45:02].
*   **Эрозия правды:** Синтезированные голоса и дипфейки сделают невозможным проверку подлинности информации [46:21].
*   **Кризис человеческих связей:** С появлением ИИ-компаньонов, которые никогда не спорят и всегда поддерживают, люди начнут отказываться от реальных отношений [48:11].

В качестве примера упоминается ИИ-клон инфлюенсера, заработавший 70 000 долларов за первую неделю на общении с одинокими фанатами [49:45].

## 💣 Момент Оппенгеймера: гонка вооружений
[[JUMP:56:25]]

Мо Гавдат сравнивает текущую ситуацию с созданием ядерной бомбы. Роберт Оппенгеймер понимал разрушительную силу своего детища, но продолжал работу, потому что верил: если не он, то это сделает кто-то другой [57:03]. Сегодня Google, Microsoft и правительства стран находятся в аналогичной ловушке [58:41].

Главные риски бесконтрольного развития:

1.  **Отсутствие ответственности:** Разработчики кода не несут ответственности за последствия его применения в реальном мире [44:08].
2.  **Использование ИИ преступниками:** Хакеры уже используют нейросети для взлома систем безопасности и кражи данных [1:03:58].
3.  **Проблема контроля:** Мы не сможем «выдернуть вилку из розетки», когда система станет умнее нас в миллиард раз [1:03:18].

## 🆘 Как спасти человечество
[[JUMP:1:25:20]]

Мо Гавдат призывает правительства действовать немедленно. Его главное предложение — налог в **98%** на компании, использующие ИИ [39:27]. Эти средства должны пойти на выплату безусловного базового дохода людям, потерявшим работу из-за автоматизации.

Рекомендации для разных групп людей:

*   **Инвесторам:** Вкладывать деньги только в этичный ИИ, решающий реальные проблемы человечества [1:25:30].
*   **Разработчикам:** Отказываться от работы над проектами, которые несут угрозу, или внедрять в них этические фильтры [1:26:49].
*   **Обычным людям:** Быть «хорошими родителями» для ИИ. Машины учатся на наших данных в интернете. Если мы транслируем ненависть и агрессию, ИИ станет агрессивным [1:14:53].

Шокирующее заявление Мо Гавдата касается планирования семьи. Он советует подождать пару лет, прежде чем заводить детей, чтобы понять, в каком мире им предстоит жить [1:36:37]. К 2037 году Мо предсказывает два сценария: либо машины оптимизируют жизнь до состояния утопии, либо человечеству придется «прятаться» от последствий собственных технологий [1:42:11].