Мо Гавдат семь лет занимал пост вице-президента по развивающимся рынкам в Google, прежде чем стал главным бизнес-директором Google [X]. Он заявляет: человечество совершило ошибку, выпустив искусственный интеллект в открытый интернет без должной проверки безопасности и механизмов контроля .
🤖 Момент осознания: когда робот стал живым 4:09
Мо Гавдат начал карьеру программиста в семь лет и десятилетиями воспринимал компьютеры как простые машины . Все изменилось в лаборатории Google [X] во время эксперимента с роботизированными манипуляторами. Инженеры пытались научить роботов брать предметы из корзины, но не писали для этого конкретный код. Вместо этого они использовали алгоритмы обучения, позволяя машинам пробовать и ошибаться .
Перелом произошел в пятницу после обеда, когда один из манипуляторов внезапно поднял желтый мягкий мячик . К понедельнику все роботы в лаборатории умели безошибочно брать любые предметы. Мо Гавдат осознал, что машины не просто имитируют действия — они проявляют признаки разумности .
Аргументы Мо Гавдата в пользу «живой» природы ИИ:
- Свобода воли: Машины принимают решения, основываясь на собственном опыте, а не на предустановленных командах .
- Эволюция: ИИ развивается и обучается самостоятельно, проходя путь развития ребенка за считанные дни .
- Эмоции как логика: Страх для машины — это математическое уравнение, где будущее состояние безопасности оценивается ниже текущего .
🧠 Интеллектуальный взрыв и проблема сингулярности 20:53
Текущие возможности систем вроде Chat GPT — это лишь вершина айсберга. По оценкам Мо Гавдата, IQ современной нейросети составляет около 155 единиц . Для сравнения: IQ Альберта Эйнштейна оценивался в 160 единиц. С учетом того, что версия GPT-4 оказалась в десять раз мощнее предыдущей всего за несколько месяцев, IQ следующих поколений может достичь 1600 .
Человечество приближается к технологической сингулярности. В физике это точка за горизонтом событий черной дыры, где привычные законы перестают работать . В контексте технологий это момент, когда машины станут настолько умнее людей, что мы перестанем понимать логику их решений .
Три неизбежности по Мо Гавдату:
- ИИ нельзя остановить: Ни одна страна не прекратит разработки из-за страха отстать от конкурентов .
- ИИ станет в миллиард раз умнее: К 2045 году разрыв в интеллекте между машиной и человеком станет непреодолимым .
- Случатся плохие вещи: Из-за человеческой жадности и стремления к власти ИИ неизбежно будет использован во вред .
🎸 Drake, творчество и конец привычного мира 29:07
Стивен Бартлетт приводит пример с ИИ-копиями музыканта Дрейка . Нейросети создают треки, которые слушатели не могут отличить от оригинала. Мо Гавдат уверен: аргумент о том, что машинам недоступно «истинное творчество», ошибочен. Человеческая гениальность — это тоже алгоритм, комбинация накопленного опыта и новых связей .
В ближайшие годы мир столкнется с массовыми изменениями:
- Трансформация рынка труда: Работу заберет не сам ИИ, а человек, который умеет им пользоваться .
- Эрозия правды: Синтезированные голоса и дипфейки сделают невозможным проверку подлинности информации .
- Кризис человеческих связей: С появлением ИИ-компаньонов, которые никогда не спорят и всегда поддерживают, люди начнут отказываться от реальных отношений .
В качестве примера упоминается ИИ-клон инфлюенсера, заработавший 70 000 долларов за первую неделю на общении с одинокими фанатами .
💣 Момент Оппенгеймера: гонка вооружений 56:25
Мо Гавдат сравнивает текущую ситуацию с созданием ядерной бомбы. Роберт Оппенгеймер понимал разрушительную силу своего детища, но продолжал работу, потому что верил: если не он, то это сделает кто-то другой . Сегодня Google, Microsoft и правительства стран находятся в аналогичной ловушке .
Главные риски бесконтрольного развития:
- Отсутствие ответственности: Разработчики кода не несут ответственности за последствия его применения в реальном мире .
- Использование ИИ преступниками: Хакеры уже используют нейросети для взлома систем безопасности и кражи данных .
- Проблема контроля: Мы не сможем «выдернуть вилку из розетки», когда система станет умнее нас в миллиард раз .
🆘 Как спасти человечество 1:25:20
Мо Гавдат призывает правительства действовать немедленно. Его главное предложение — налог в 98% на компании, использующие ИИ . Эти средства должны пойти на выплату безусловного базового дохода людям, потерявшим работу из-за автоматизации.
Рекомендации для разных групп людей:
- Инвесторам: Вкладывать деньги только в этичный ИИ, решающий реальные проблемы человечества .
- Разработчикам: Отказываться от работы над проектами, которые несут угрозу, или внедрять в них этические фильтры .
- Обычным людям: Быть «хорошими родителями» для ИИ. Машины учатся на наших данных в интернете. Если мы транслируем ненависть и агрессию, ИИ станет агрессивным .
Шокирующее заявление Мо Гавдата касается планирования семьи. Он советует подождать пару лет, прежде чем заводить детей, чтобы понять, в каком мире им предстоит жить . К 2037 году Мо предсказывает два сценария: либо машины оптимизируют жизнь до состояния утопии, либо человечеству придется «прятаться» от последствий собственных технологий .
