В новом выпуске подкаста The TWIML AI Podcast ведущий Сэм обсуждает с известным экспертом в области искусственного интеллекта Кай-Фу Ли его новую книгу «AI 2041». В центре беседы находится двадцатилетний горизонт развития технологий машинного обучения, их влияние на мировую экономику, рынок труда и повседневную жизнь человечества. Автор делится уникальным взглядом на то, как синергия науки и художественной литературы помогает широкой аудитории осознать грядущие тектонические сдвиги без впадения в крайности излишнего оптимизма или антиутопического страха.
🎓 Путь Кай-Фу Ли в индустрии искусственного интеллекта 0:01
Кай-Фу Ли связал свою жизнь с технологиями искусственного интеллекта в 1979 году, когда начал обучение на бакалавриате в Колумбийском университете. В стенах университета он сфокусировался на исследованиях в области распознавания естественного языка и компьютерного зрения. После этого он продолжил академический путь в Университете Карнеги-Меллон (CMU), где в 1988 году защитил докторскую диссертацию, разработав первую в мире независимую от диктора систему распознавания речи, основанную на машинном обучении. В этот же период ученый создал компьютерную программу, сумевшую победить чемпиона мира по стратегической игре реверси (отелло).
После двух лет преподавания в CMU профессиональная карьера Ли развивалась в крупнейших мировых технологических корпорациях:
- Apple: Руководство проектами в области распознавания речи, обработки естественного языка и мультимедийных технологий.
- SGI: Управление ключевыми ИТ-направлениями после ухода из Apple.
- Microsoft: Основание в 1998 году исследовательского центра Microsoft Research Asia в Пекине, который быстро стал одной из лучших ИИ-лабораторий в азиатском регионе.
- Google: Пост президента Google China с 2005 по 2009 год, где основной задачей было выстраивание и масштабирование присутствия американского гиганта на китайском рынке.
В 2009 году Ли покинул Google, чтобы основать собственный венчурный фонд Sinovation Ventures. За годы работы фонд проинвестировал около 40 стартапов, глубоко вовлеченных в создание технологий искусственного интеллекта. Под его руководством фирма вырастила 7 технологических компаний-единорогов, рыночная капитализация каждой из которых превысила один миллиард долларов.
📚 «AI 2041»: синергия науки и художественного вымысла 3:04
Новая книга Кай-Фу Ли «AI 2041» представляет собой необычный литературный эксперимент, который сам автор называет «научной фантастикой» (scientific fiction). Произведение создавалось в соавторстве с известным писателем-фантастом Стенли Ченом, который взял на себя написание трех четвертей текста. Книга состоит из 10 новелл, каждая из которых разворачивается в определенной стране и в контексте конкретной индустрии, наглядно демонстрируя глобальный и всеобъемлющий характер будущих изменений.
Как утверждает эксперт, общественное восприятие искусственного интеллекта сегодня сильно искажено: часть людей демонстрирует излишний консерватизм, другие пребывают в состоянии необоснованного оптимизма, а третьи проявляют опасную наивность. Полноценный художественный сюжет позволяет сделать сложные концепты доступными для понимания рядового читателя. После каждой художественной главы Ли приводит детальный научно-технический анализ ИИ-технологий, оценивая траекторию их прогресса, сопутствующие вызовы и потенциальные методы решения возникающих проблем.
Выбор 20-летнего временного горизонта автор обосновывает тем, что этот срок достаточно велик для фундаментальных преобразований рынка, но при этом защищает от спекулятивных, псевдонаучных фантазий. В качестве аналогии эксперт напоминает, что 20 лет назад человечество не знало об iPhone и мобильном интернете, изменивших мир до неузнаваемости. С другой стороны, такой период заставляет учитывать жесткие рыночные и организационные ограничения:
- Времени, необходимого на проведение фундаментальных исследований и их коммерческое совершенствование.
- Процессов радикального снижения себестоимости ИТ-решений.
- Неизбежных правовых, регуляторных барьеров и вопросов юридической ответственности разработчиков.
Ли подчеркивает, что степень его уверенности в технической реализуемости всех описанных в книге сценариев в указанный срок составляет не менее 80%. При этом авторы умышленно избегали таких тем, как телепортация, путешествия во времени или прямая загрузка человеческого сознания в цифровые системы.
🚗 Беспилотный транспорт будущего: уровни автономности и новые риски 7:03
Развитие беспилотных автомобилей является одной из самых спорных тем в дискуссиях футуристов. Кай-Фу Ли выражает твердую уверенность в том, что через два десятилетия автономия пятого уровня (L5) станет повседневной реальностью, однако путь к ней окажется строго эволюционным. По прогнозу эксперта, внедрение систем будет происходить в средах с постепенно нарастающей сложностью: от фиксированных маршрутов общественного транспорта и движения грузовиков по скоростным магистралям до полноценного заполнения городских улиц.
Внедрение полной автономии, как считает Ли, потребует от государств и муниципалитетов принудительной модернизации дорожной инфраструктуры. По его словам, городам придется физически изолировать пешеходные потоки от проезжей части на наиболее опасных и оживленных перекрестках, чтобы полностью исключить риск наезда, как это произошло во время печально известной аварии беспилотника Uber в Финиксе.
Технологическая модель беспилотного будущего по версии Ли включает следующие элементы:
- Полное отсутствие рулевого колеса и привычного места для водителя в салоне.
- Уменьшение габаритов транспортных средств, повышение их маневренности и энергоэффективности.
- Постоянный прямой обмен данными между автомобилями (V2V-коммуникация) для мгновенного информирования о скорости, местоположении и внезапных поломках (например, о лопнувшей шине).
Важным драматургическим и социальным аспектом книги становится исследование судьбы так называемых «удаленных водителей-дублеров». Ли предполагает, что даже через 20 лет останутся экстремальные ситуации и зоны стихийных бедствий, где алгоритмы окажутся бессильны, уступив место человеческой интуиции. В таких случаях управление будут перехватывать операторы специальных удаленных центров.
По мнению соавторов книги, профессия удаленного спасателя породит тяжелейшие психологические травмы: люди будут ежедневно сталкиваться с кризисными ситуациями на грани жизни и смерти, испытывая колоссальный уровень стресса, схожий с состоянием современных модераторов контента в соцсетях. Дополнительно авторы поднимают этическую дилемму скрытого рекрутинга: допустимо ли маскировать реальную работу по спасению людей под компьютерные игры, вовлекая в нее талантливых подростков без их явного ведома?
Географически развертывание беспилотных экосистем будет неравномерным. Ли полагает, что развитые государства и страны, активно меняющие транспортное законодательство, перейдут на автономию в течение ближайших 15 лет. Менее развитым регионам потребуется технологическая помощь извне. Именно поэтому действие соответствующей главы книги происходит в Шри-Ланке, куда китайская ИТ-корпорация экспортирует свои готовые автономные решения «под ключ».
💼 Проблема замещения рабочих мест и переосмысление роли денег 15:16
Проблема массовой безработицы из-за автоматизации пронизывает сюжеты большинства новелл сборника. В главе «Спаситель рабочих мест», действие которой разворачивается в США, Ли детально описывает зарождение новой критически важной индустрии — компаний по перераспределению и переобучению персонала. Финансирование таких структур, согласно прогнозу, должно осуществляться государством напрямую из бюджетов, изначально зарезервированных под выплату классического универсального базового дохода или социального обеспечения.
Деятельность специалистов по переквалификации столкнется со специфическими вызовами рынка труда:
- Постоянное ускорение ИИ: Из-за стремительного прогресса алгоритмов рутинные задачи будут автоматизироваться быстрее, чем люди успеют переучиваться. Работник, успешно сменивший профессию, рискует снова потерять ее уже через 3 года.
- Вымывание начальных позиций: Искусственный интеллект полностью заберет себе стартовые вакансии младших бухгалтеров, архитекторов и репортеров. Это лишит молодых специалистов естественной лестницы карьерного роста.
Для решения проблемы отсутствия начального опыта Ли допускает внедрение концепции «виртуальных рабочих мест». Человек будет выполнять симулированные профессиональные задачи, которые фактически не приносят прямой пользы реальной экономике и могут быть легко исполнены алгоритмом, но служат в качестве эффективного образовательного тренажера для раскрытия индивидуальных талантов сотрудника.
Параллельно реформе подвергнется и сфера образования. По мнению эксперта, школам и университетам необходимо сместить фокус на развитие мягких навыков (soft skills) — эмпатии, командного взаимодействия, коммуникации, а также критического мышления и креативности. Именно эти качества останутся недоступными для автоматизации машинами.
В более отдаленной перспективе, в условиях «эры изобилия», вызванной резким падением стоимости товаров благодаря роботизации и развитию зеленой энергетики, человечеству придется полностью переосмыслить сущность денег. Ли утверждает, что погоня за финансовым достатком и славой в современном мире — это лишь искусственно сконструированная социальная игра, удерживающая людей в «крысиных бегах».
Когда базовые материальные потребности будут полностью закрыты, фокус сместится на высшие уровни пирамиды Маслоу — самоактуализацию, волонтерство в сфере экологии, творчество и создание позитивной энергии человеческого общения. Одной из первых площадок для такого социально-экономического эксперимента, по мнению спикера, может стать Австралия, обладающая огромными запасами природных ресурсов при сравнительно небольшом населении.
🛡️ Регулирование автономного оружия и экзистенциальные угрозы 24:59
Обсуждая экзистенциальные риски, Кай-Фу Ли проводит прямую историческую параллель: современное ИИ-сообщество испытывает те же опасения и этические метания перед лицом военных технологий, какие в свое время испытывали физики-ядерщики или создатели химического оружия. Главная опасность беспилотных систем уничтожения, по словам эксперта, заключается в их пугающей дешевизне и доступности для террористических организаций. Автономный дрон, оснащенный функцией распознавания лиц, превращается в автоматического убийцу, применение которого не несет рисков для жизни самого злоумышленника.
Ключевые отличия автономного боевого оружия от ядерного арсенала прошлого века заключаются в следующем:
- Отсутствие концепции гарантированного взаимного уничтожения: Ядерный паритет удерживал сверхдержавы от агрессии из-за страха неминуемого ответного удара, тогда как локальные атаки дронов лишены этого сдерживающего фактора.
- Сложность верификации и контроля: Инспекторы ООН могут отслеживать обогащение урана или крупные военные заводы, но собрать боевой квадрокоптер злоумышленник способен в условиях обычного частного гаража.
Несмотря на колоссальные трудности контроля, Ли настаивает на немедленном введении жесткого международного регулирования. В качестве позитивного примера он приводит тот факт, что человечеству все же удалось успешно ограничить распространение и применение химического и biological оружия, отслеживать которое было не менее сложно.
В то же время эксперт призывает четко разделять реальные военные угрозы сегодняшнего дня и фантастические сценарии. В его книге осознанно нет ни одной истории о достижении технологической сингулярности или появлении у машин самосознания.
Как утверждает Ли, разговоры о захвате мира сверхинтеллектом в ближайшие 20 лет слишком примитивны. Экспоненциальный рост вычислительной мощности процессоров не означает автоматического прорыва в алгоритмах. Современная наука до сих пор глубоко не понимает базовые принципы работы человеческого мозга: природу эмоций, креативности, стратегического планирования и самосознания. Следовательно, воссоздать в коде то, механику чего мы сами не понимаем, в среднесрочной перспективе невозможно.
Существующие лаборатории безопасности ИИ, по мнению Ли, должны работать в формате аналитических центров, отслеживая долгосрочные риски, пока инженерное сообщество концентрируется на ликвидации явных и близких угроз, таких как алгоритмическая предвзятость и автономное вооружение.
🧬 Квантовые вычисления и новые стандарты конфиденциальности данных 32:49
Говоря об аппаратной базе будущего, Кай-Фу Ли отмечает, что сектор квантовых вычислений является одной из зон высокой неопределенности, где сложно делать стопроцентные прогнозы. Тем не менее, опираясь на текущие дорожные карты таких технологических лидеров, как IBM и Google, эксперт считает вполне вероятным появление через 20 лет стабильных квантовых систем, оперирующих несколькими тысячами логических кубитов.
Главным следствием квантового прорыва станет тотальный кризис кибербезопасности: существующие асимметричные алгоритмы шифрования будут мгновенно взломаны. Отражением этой угрозы в книге становится сюжет о хакере, который тайно создал процессор мощностью в 4000 логических кубитов и использовал его для кражи чужих биткоинов — крупнейшего незащищенного цифрового актива. Обратной, позитивной стороной медали станет одновременное появление абсолютно устойчивых квантовых систем защиты.
В сфере обработки персональных данных Ли прогнозирует победу технологий, позволяющих соблюсти баланс между эффективностью обучения моделей и защитой частной жизни. В течение 20 лет массовое распространение получат следующие инструменты:
- Федеративное обучение (Federated Learning): Позволяет обучать ИИ централизованно, не собирая сырые данные пользователей на единый сервер.
- Гомоморфное шифрование: Обеспечивает возможность проведения вычислений и обучения непосредственно над зашифрованными массивами информации.
- Изолированные аппаратные среды: Защищенные чипы внутри устройств, полностью исключающие несанкционированную утечку метаданных.
В качестве примера Ли приводит модель консорциума медицинских учреждений. Больницы смогут совместно совершенствовать диагностические нейросети, объединяя и накладывая друг на друга обученные локальные модели, при этом личные медицинские карты пациентов никогда не покинут защищенный внутренний контур конкретного госпиталя.
🏛️ Альтернатива разделению монополий: аудит и новые бизнес-модели 42:06
Современные попытки американских и европейских политиков регулировать ИТ-гигантов вызывают у Кай-Фу Ли скепсис. По его мнению, популярная идея принудительного разделения корпораций (по аналогии со знаменитыми процессами против Standard Oil или телефонной системы Bell) является слишком грубым инструментом из двадцатого века, абсолютно неэффективным в цифровую эпоху. Как утверждает Ли, разделение технологических гигантов — это слишком грубый подход из двадцатого века, который не решит современные проблемы. Эксперт поясняет, что если гипотетически разделить условную компанию Facebook на три независимых продукта — WhatsApp, Instagram и непосредственно соцсеть Facebook, это никак не предотвратило бы утечки данных вроде скандала с Cambridge Analytica, поскольку каждый сервис по отдельности сохранил бы прежние алгоритмические механики манипуляции.
Вместо дробления бизнеса Ли предлагает внедрить систему независимого государственного «ИИ-аудита». По аналогии с налоговыми или финансовыми проверками, регуляторы должны получать доступ к исходному коду и базам данных компании в случае фиксации массовых и регулярных жалоб со стороны пользователей.
Другим мощным рычагом воздействия должно стать внешнее ESG-давление и изменение целевых функций (objective functions) алгоритмов. Сегодня ИИ-системы крупных платформ маниакально сориентированы на максимизацию сиюминутной выручки и кликабельности (click-through rate). Ли считает необходимым переориентировать их на долгосрочные метрики, полезные для человека:
- Уровень удовлетворенности и счастья пользователя.
- Объем реально полученных и усвоенных знаний.
- Динамика личного финансового благополучия человека за трехлетний период.
Для реализации этой концепции эксперт предлагает внедрить независимые авторитетные организации, которые будут ежеквартально публиковать открытые рейтинги технологических компаний по уровню генерации фейковых новостей или ложной рекламы. Столкнувшись с падением в подобных рейтингах, корпорации будут вынуждены перестраивать внутренние команды ради сохранения репутации и инвестиционной привлекательности.
В конечном итоге, как резюмирует Ли, победу одержат те предприниматели будущего, которые смогут создать инновационные бизнес-модели, позволяющие платформам зарабатывать больше денег именно в тот момент, когда их пользователи становятся умнее, богаче и счастливее в долгосрочной перспективе.
