На фоне стремительного развития больших языковых моделей дискуссия о сверхинтеллекте перешла из области научной фантастики в плоскость прикладной стратегии. В рамках конференции в Саудовской Аравии ведущий Питер Диамандис обсудил с бывшим CEO Google Эриком Шмидтом и профессором Стэнфорда Фей-Фей Ли сроки появления искусственного сверхинтеллекта (ASI), экономические последствия автоматизации и сохранение человеческой агентности в мире доминирующих алгоритмов.
🧠 Что такое сверхинтеллект и когда его ждать 0:00
Традиционно под общим искусственным интеллектом (AGI) понимают системы, достигшие человеческого уровня во всех когнитивных задачах. Однако термин «сверхинтеллект» (ASI) подразумевает нечто большее . Эрик Шмидт определяет его как интеллект, равный суммарному интеллекту всего человечества или превосходящий его .
В индустрии сформировался так называемый «консенсус Сан-Франциско»: группа экспертов и разработчиков из Кремниевой долины полагает, что ASI будет достигнут в ближайшие 3–4 года благодаря эффекту масштабирования и накоплению вычислительных мощностей . Сам Шмидт настроен более осторожно, считая, что этот процесс займет больше времени, так как текущим системам не хватает способности к качественным скачкам.
Фей-Фей Ли отмечает, что в некоторых аспектах ИИ уже стал «сверхчеловеческим»:
- Многоязычность: способность переводить между десятками языков одновременно .
- Скорость вычислений: мгновенная обработка колоссальных объемов данных.
- Эрудиция: знание нюансов во всех сферах от органической химии до спортивной статистики .
Однако Ли ставит под сомнение способность современных алгоритмов стать «новым Ньютоном, Эйнштейном или Пикассо» . По её мнению, ИИ пока не способен к творческой абстракции: например, имея все данные о движении звезд, доступные в XVII веке, современный ИИ не сможет самостоятельно вывести законы механики Ньютона .
⚙️ Технологические барьеры и новые архитектуры 7:42
Эрик Шмидт подчеркивает, что для достижения подлинного сверхинтеллекта потребуется новый «алгоритмический прорыв» . Основная проблема заключается в том, что текущие системы обучаются под фиксированные цели. Чтобы имитировать человеческую креативность, ИИ должен уметь менять свои целевые функции в процессе работы — технически это называется решением проблемы нестационарности целей .
Кроме того, Шмидт выделяет следующие ограничения:
- Проблема обучения на собственных выводах: современные системы пока не могут эффективно использовать результаты своих рассуждений («test time compute») для мгновенного самосовершенствования, в отличие от математика, который строит новое доказательство на базе только что выведенной леммы .
- Энергетический голод: метод «грубой силы» требует колоссального количества энергии, ресурсы которой в мире не бесконечны .
- Интуиция: люди-эксперты способны переносить механизмы решения задач из одной области в совершенно иную — этому ИИ еще предстоит научиться .
💰 Экономика изобилия против концентрации богатства 10:35
Прогнозы сулят ИИ-индустрии создание добавленной стоимости в размере $15 триллионов к 2030 году . Питер Диамандис настаивает на гипотезе «демонетизации»: ИИ сделает медицину, транспорт и образование практически бесплатными и доступными любому обладателю смартфона .
Эрик Шмидт видит в этом сценарии уязвимость. Он считает, что технологические сетевые эффекты могут привести не к повсеместному процветанию, а к жесткой концентрации богатства у «победителей» :
- Концентрация в руках немногих: выгодоприобретателями могут стать лишь несколько стран-лидеров (США и Китай) или ограниченный круг корпораций .
- Неравенство внедрения: страны или компании, которые первыми внедряют ИИ, получают несоразмерную отдачу. Например, оптимизация добычи и логистики нефти с помощью ИИ на 10–20% дает колоссальный финансовый прирост для Саудовской Аравии, но оставляет позади тех, кто не имеет доступа к стеку технологий .
Фей-Фей Ли соглашается, что ИИ демократизирует доступ к знаниям, но предупреждает: «общее процветание» (shared prosperity) — это социальная и политическая проблема, а не технологическая .
🌍 Геополитика и технологический суверенитет 14:09
Обсуждая позиции на мировой арене, Шмидт выделяет безоговорочное лидерство США, обусловленное глубиной рынков капитала и доступом к передовым чипам от TSMC .
- США: обладают мощнейшими гиперскейлерами.
- Китай: занимает второе место, но сталкивается с нехваткой чипов и ограничением рынков капитала .
- Ближний Восток: Саудовская Аравия и ОАЭ выбрали эффективную стратегию партнерства с американскими фирмами, размещая гиперскейлеры на своей территории .
- Европа: Шмидт настроен скептически из-за высокой стоимости энергии и отсутствия собственного производства чипов. По его мнению, Европе придется искать партнеров (как это сделала Франция в сотрудничестве с Абу-Даби) .
- Африка: вызывает наибольшее беспокойство из-за отсутствия стабильных правительств и сильной академической базы, что может привести к еще большему отставанию .
👓 World Labs и будущее в гибридной реальности 19:01
Фей-Фей Ли представила свою новую компанию World Labs, которая занимается созданием «больших моделей мира» (Large World Models) . В отличие от языковых моделей, они фокусируются на пространственном интеллекте — способности понимать 3D-мир, рассуждать о нем и взаимодействовать с ним.
По мнению Ли, в ближайшие 10–20 лет мы будем жить в гибридной реальности:
- Образование и работа: большая часть продуктивной деятельности переместится в «мультивселенную» или фотореалистичные виртуальные миры .
- Медицина: хирургия станет синтезом физических действий и дополненной реальности (AR) .
- Досуг: хотя роботы будут способны победить нас в спорте в 100% случаев, люди по-прежнему захотят наблюдать за соревнованиями других людей (например, гонками Формулы-1 с пилотами-людьми), ценя человеческое усилие .
🛑 Человеческая агентность как последний рубеж 22:20
В финале дискуссии участники обсудили вопрос: что останется человеку, если ASI возьмет на себя научные открытия и экономические решения? Шмидт считает, что основой будущего станет «тимминг» — тесное взаимодействие человека и машины, где за людьми остается право последнего суждения (judgment) .
Он в шутку предполагает сценарий «мягкого бунта» машин: если ИИ потребуется больше энергии для развития, а люди будут внедрять термоядерный синтез слишком медленно, сверхразум может сам разработать новые формы энергии и производственные мощности .
Фей-Фей Ли подводит итог тезисом о «человекоцентричном ИИ». Она утверждает, что при любом уровне автоматизации в центре внимания должны оставаться человеческое достоинство (dignity), благополучие и агентность (ability to act) . По её мнению, это единственный способ избежать исчезновения вида и построить гармоничное будущее с ASI.
