В новом выпуске «Prof G Conversations» Скотт Гэллоуэй обсуждает с Мо Гавдатом, бывшим бизнес-директором Google X и автором бестселлеров, текущее состояние и будущее искусственного интеллекта. Собеседники анализируют, как технологическая гонка между США и Китаем, появление DeepSeek и концентрация власти в руках немногих «неизбранных» лидеров IT-индустрии формируют контуры неизбежной, по мнению гостя, краткосрочной антиутопии.
🤖 Третья эра вычислений: AGI уже здесь? 2:10
Мо Гавдат определяет последние два года — с момента выхода ChatGPT до сегодняшнего дня — как «третью эру вычислений» . По его мнению, человечество находится в ситуации «дилеммы заключенного», где ни одна из сторон не хочет уступать, что приводит к выпуску новых технологий буквально каждые несколько недель .
Гость выдвигает смелое утверждение: человечество фактически уже достигло общего искусственного интеллекта (AGI), по крайней мере, в определенных областях. Его аргументы в пользу этого тезиса:
- Лингвистический интеллект: ИИ уже одержал победу в этой сфере .
- Математика и логика: Машины начинают превосходить людей в рассуждениях и решении сложных задач .
- Скорость прогресса: Любая область, в которую вкладываются значительные ресурсы, вскоре демонстрирует превосходство машин над человеком .
Однако Гавдат подчеркивает, что отсутствие единого и точного определения AGI заставляет людей продолжать споры о его достижении, хотя фактически технологический марш идет полным ходом .
🎭 Диктатура «неизбранных»: этика и власть в эпоху ИИ 4:13
Основное опасение Мо Гавдата связано не с «экзистенциальным риском» (восстанием машин), а с ценностными установками тех, кто контролирует эти технологии. Он считает, что краткосрочное будущее человечества будет антиутопичным из-за действий «неизбранных влиятельных сил» .
Гость и ведущий подвергли жесткой критике руководство ведущих AI-компаний:
- Сэм Олтмен и Илон Маск: Гавдат задается вопросом, почему жизнь миллиардов людей должна определяться решениями Олтмена или Маска .
- Нарушение «общественного договора»: По словам Гавдата, существовало негласное правило не выпускать ИИ в публичный доступ до решения вопросов безопасности и этики. Сэм Олтмен, по мнению гостя, нарушил это правило ради создания компании-миллиардера .
- PR вместо реальности: Гавдат утверждает, что руководители технологических гигантов используют опытных PR-менеджеров, чтобы транслировать заботу о безопасности, в то время как их реальный фокус направлен исключительно на деньги и власть .
Скотт Гэллоуэй поддержал эту позицию, сравнив Сэма Олтмена с Шерил Сэндберг. По мнению ведущего, Олтмен использует «мягкий тон» и имитирует озабоченность («Сенатор, я тоже обеспокоен»), чтобы сделать хищническое поведение компании более приемлемым, пока он привлекает $40 млрд инвестиций при оценке в $350 млрд .
🇨🇳 Глобальная гонка: DeepSeek и крах политики санкций 8:39
Обсуждая геополитическое противостояние, Мо Гавдат назвал ограничение экспорта чипов в Китай «величайшей стратегической ошибкой в истории» . По его мнению, американские санкции против России и Китая за последние годы привели к обратному результату:
- Дедолларизация: Действия против России заставили многие страны искать альтернативы доллару .
- Китайская изобретательность: Санкции на чипы вынудили Китай стать более изобретательным, результатом чего стал DeepSeek .
Гавдат считает, что «гонка вооружений» в сфере ИИ напоминает ситуацию с ядерной бомбой: если вы строите её первым, это не гарантирует вашу безопасность, а лишь ведет к миру, где ядерным оружием владеют многие . Он утверждает, что аргумент OpenAI о «тестировании в публичном доступе ради безопасности» звучит так же абсурдно, как предложение провести испытание ядерной бомбы в центре Манхэттена, а не в пустыне Нью-Мексико, просто чтобы «посмотреть на реакцию людей» .
Собеседники пришли к выводу, что преимущество США в технологиях сокращается с десятилетий до считанных дней . Гавдат отмечает, что в 70-е годы Америка была миром, отделенным от всех остальных, но сегодня такое же ощущение технологического отрыва возникает при посещении Шанхая .
🌍 Проект «Мир Изобилия»: возможность сотрудничества 25:55
Скотт Гэллоуэй предложил концепцию создания международной организации, подобной ООН или НАТО, учредителями которой стали бы США и Китай. Основные принципы такой организации:
- Полная прозрачность: Офисы в Вашингтоне, Кремниевой долине, Шанхае и Пекине .
- Смешанные команды: Американские и китайские ученые работают в одних кабинетах, что делает невозможным сокрытие секретных разработок .
- Общие цели: Решение проблем распределения продовольствия, бедности и здравоохранения .
- Совместный контроль: Выявление попыток создания биологического оружия или супервирусов с помощью ИИ-краулеров .
Мо Гавдат назвал это «прекрасной мечтой», но отметил, что 38% ведущих исследователей ИИ в США уже являются этническими китайцами . Он продвигает идею «Аугментации интеллекта» (Intelligence Augmentation). По его расчетам, если дать человечеству дополнительные 400 пунктов IQ, мы сможем извлекать энергию буквально из воздуха и перестраивать молекулы, создавая любые материалы без борьбы за ресурсы . В таком мире капиталистическая модель конкуренции за дефицитные блага теряет смысл.
🚁 Дроны-убийцы и конец классической демократии 40:48
Несмотря на оптимистичные сценарии изобилия, Мо Гавдат предупреждает о появлении новых видов оружия. Он считает, что ИИ демократизирует не только знания, но и средства насилия .
Ключевые угрозы, по мнению гостя:
- Дешевые убийства: Дрон стоимостью $3000, управляемый ИИ, может найти цель в любой точке мира, опознать лицо лидера государства и произвести выстрел в лоб, несмотря на любую охрану .
- Автономные рои: Миллионы самовосстанавливающихся дронов-ассасинов под управлением ИИ могут быть выпущены частным лицом для зачистки политических оппонентов .
- Утрата контроля государством: Владение таким оружием не обязательно будет прерогативой правительств, что полностью меняет распределение власти в обществе .
🧘 Психология успеха: стресс как «значок отличия» 44:50
В финальной части беседы Мо Гавдат представил свою новую книгу «Unstress». Он утверждает, что современное общество сделало стресс «значком отличия» и символом продуктивности .
Гавдат применяет к стрессу законы физики: стресс в человеке — это сила, приложенная к объекту, деленная на площадь его поперечного сечения (ресурсы, навыки, связи человека) . Он выделил три типа критических точек:
- Выгорание: Результат накопления мелких стрессоров во времени. Решение: еженедельный аудит по субботам и вычеркивание ненужных раздражителей .
- Травма: События вне нашего контроля (потеря близких, аварии). Статистика Гавдата: 91% людей сталкиваются с ПТСР-индуцирующим событием, но 93% восстанавливаются за 3 месяца, проходя через посттравматический рост .
- Ожидание угрозы (тревога): Страх перед будущим. Гавдат советует: если вы в панике — не решайте проблему, а ищите способы получить больше времени; если вы тревожитесь — работайте над своими компетенциями, а не над самой угрозой .
В завершение Мо Гавдат привел цитату из фильма Стивена Спилберга «Шпионский мост», где советский шпион на вопрос о том, почему он не нервуется перед лицом возможной казни, отвечает: «А это поможет?» .
