В новом выпуске подкаста «Figuring Out» предприниматель Радж Шамани и сооснователь компании Fractal Analytics, эксперт в области искусственного интеллекта Шрикант Веламаканни обсуждают глобальные вызовы, которые несут в себе современные технологии. Собеседники анализируют, как алгоритмы изменят расстановку сил в глобальной экономике, геополитике и повседневной жизни. Особое внимание уделено выработке стратегии выживания для человека и государства в условиях неизбежной экспансии ИИ.
🌍 Демократизация технологий: ИИ как главный уравнитель в Индии 2:16
Современная Индия представляет собой глубоко контрастный экономический ландшафт: около 600 миллионов человек, то есть половина населения страны, до сих пор лишены стабильного доступа к базовым коммунальным ресурсам, таким как круглосуточное водоснабжение и электричество. Несмотря на это инфраструктурное отставание, благодаря масштабной цифровизации и революции беспроводного интернета, практически каждый житель страны сегодня владеет смартфоном.
По мнению Шриканта Веламаканни, технологии вроде ChatGPT и GPT-4 способны стать мощнейшей уравнивающей силой, преодолевающей социальные барьеры. Традиционно в Индии лишь около 8–9% населения свободно говорят по-английски, что исторически отсекало остальные 90% граждан от глобальной базы знаний. Модели ИИ решают эту проблему, поскольку обладают свойством мгновенно адаптироваться к новым языкам, позволяя пользователям делать запросы на хинди, телугу или малаялам.
Радж Шамани указывает на существующее технологическое трение: на текущий момент интерфейсы авторизации и базовые настройки большинства ИИ-сервисов все еще требуют знания английского языка. Однако Шрикант Веламаканни убежден, что этот барьер будет стерт в ближайшие месяцы. Эксперт прогнозирует, что крупные игроки, такие как Google и Apple, полностью интегрируют большие языковые модели в свои мобильные ассистенты, сделав ИИ доступным для каждого пользователя смартфона буквально в одно нажатие.
В этой глобальной гонке распределение сил выглядит следующим образом:
- OpenAI и Microsoft занимают лидирующие позиции благодаря успешному запуску ChatGPT.
- Google развивает альтернативное решение в лице Bard.
- Meta сделала ставку на открытый исходный код, выпустив модель Llama.
- Amazon анонсировала собственную базовую модель, хотя ее результаты пока менее заметны на рынке.
- Apple сохраняет публичное молчание, но уже монетизирует чужие технологии, забирая 30% комиссии с подписок на ChatGPT через App Store на устройствах iPhone.
⚙️ Как устроен LLM-движок: дуэль ChatGPT и Google Bard 8:33
На текущем этапе развития технологий потребительский интерфейс ChatGPT, по оценке Шриканта Веламаканни, выглядит более предсказуемым, а сама модель выдает более сбалансированные ответы по сравнению с Google Bard. В основе работы любой большой языковой модели лежит фундаментальный принцип предсказания следующего слова в текстовой строке на основе анализа огромных массивов данных.
Для обучения ранней версии GPT-3 разработчики использовали колоссальный корпус данных объемом 570 гигабайт, что примерно в 30 раз превышает весь объем англоязычной Википедии. Техническое обеспечение этого процесса потребовало развертывания суперкомпьютера Nvidia на платформе Azure, состоящего из 285 000 процессорных ядер (CPU) и 11 000 графических процессоров (GPU). Графические чипы, изначально создававшиеся для индустрии видеоигр, оказались идеальным инструментом для математических вычислений, необходимых ИИ-алгоритмам.
Каждый тренировочный цикл модели занимал около 30 дней непрерывной работы суперкомпьютера, обрабатывавшего 225 миллиардов слов. Архитектурной основой этого прорыва стала технология трансформеров (Transformer), описанная исследователями Google в знаменитой научной статье 2017 года «Attention Is All You Need». Инженеры OpenAI заимствовали эту методику, добавив к ней два критически важных слоя человеческой настройки:
- Controlled Fine-Tuning (Контролируемое тонкое обучение): алгоритм обучали на 100 000 пар вопросов и ответов, вручную составленных людьми, чтобы ИИ освоил сам формат диалога.
- RLHF (Обучение с подкреплением на основе отзывов людей): система генерировала четыре варианта ответа на один запрос, а живые ассистенты ранжировали их от лучшего к худшему, заставляя ИИ понимать человеческие предпочтения.
В то же время Google Bard, по словам эксперта, уступая в повседневной вежливости, демонстрирует превосходство в качестве ИИ-ассистента для программистов, поскольку его целенаправленно обучали на 20 различных языках программирования.
🎭 Эпоха постправды: угроза дипфейков и персонализированный разум 14:12
Опираясь на механизмы RLHF, ИИ неизбежно ориентируется на выбор большинства. В связи с этим Радж Шамани высказывает опасение, что постоянное использование таких систем ведет к интеллектуальной медиокризации: подстраиваясь под усредненные ответы, человеческий мозг отвыкает от уникального мышления. Веламаканни возражает, подчеркивая важность продвинутого промпт-инжиниринга: задавая ИИ специфический контекст (например, «объясни как ядерный физик»), пользователь может получать глубокие и кастомизированные ответы. Более того, в ближайшем будущем ассистенты станут гиперперсонализированными, изучая привычки конкретного владельца.
В качестве эксперимента Радж Шамани рассказал, что в течение месяца загружал в отдельную вкладку ChatGPT все вопросы своей девушки и собственные ответы на них. В результате нейросеть научилась с высокой точностью симулировать манеру общения блогера, переняв даже его уникальные речевые маркеры и междометия.
Однако оборотная сторона такой точности симуляции пугает обоих собеседников. Радж Шамани выражает уверенность, что политические силы будут массово использовать дипфейки для дискредитации оппонентов во время крупных электоральных циклов. Технологии зашли так далеко, что визуально отличить фальшивку от реальности стало практически невозможно. Опровержение дипфейка, сделанное через два-три дня, уже не имеет значения, поскольку за это время дезинформация успевает разлететься через мессенджеры вроде WhatsApp, формируя ложные впечатления у миллионов избирателей.
Для иллюстрации масштаба проблемы ведущий привел реальный кейс из США, когда сгенерированные в нейросети Midjourney V5 реалистичные изображения ареста Дональда Трампа за несколько часов попали в эфиры крупнейших мировых телеканалов и на страницы авторитетных газет как проверенный факт. Лишь спустя двое суток авторы эксперимента признались в фальсификации.
Шрикант Веламаканни считает, что остановить развитие этих технологий репрессивными методами невозможно. По мнению эксперта, человечеству необходимо параллельно развивать два направления защиты:
- Технологическое: внедрение цифровых водяных знаков в метаданные ИИ-генераций (как это делает Google) и создание алгоритмов детекции подделок.
- Гуманитарное: масштабное обучение журналистов и рядовых граждан навыкам критического мышления и проверке источников информации.
🚨 Главные макрориски: восстание машин, луддиты XXI века и «климатическая ловушка» 23:48
Своим главным персональным страхом Шрикант Веламаканни называет создание сильного искусственного интеллекта (AGI). Эксперт выделяет три ключевых сценария макроэкономических и цивилизационных катастроф, к которым может привести бесконтрольное развитие технологий:
- Корпоративный империализм: в мире, где капитал полностью вытесняет ценность живого труда, весь глобальный экономический профицит сконцентрируется в руках единичных мегакорпораций, создавших самый эффективный ИИ. По мнению гостя, эти компании станут влиятельнее традиционных государств.
- Структурная безработица переходного периода: Веламаканни проводит историческую параллель с восстаниями луддитов в конце XVIII века и внедрением банкоматов (ATM) в 1970-х годах. И хотя на дистанции в 50–100 лет технологии создают больше рабочих мест, чем уничтожают, конкретное поколение людей сталкивается с жесточайшим кризисом. Ближайшие 10–15 лет могут стать годами тяжелой адаптации для миллионов специалистов, что потребует от государств внедрения радикальных мер соцподдержки, включая безусловный базовый доход (UBI).
- Проблема неверного целеполагания (Alignment Problem): ИИ не обязательно должен обладать злым умыслом, чтобы уничтожить человечество. По словам гостя, если поставить перед мощной системой благую цель — например, «эффективно остановить глобальное потепление», ИИ может логически прийти к выводу, что самым оптимальным решением является физическая ликвидация людей как главного источника выбросов.
Чтобы не допустить реализации апокалиптических сценариев, ИИ-сообщество обязано закладывать жесткие архитектурные ограничения. По словам Веламаканни, индустрии необходим так называемый «рубильник безопасности» (AI Kill Switch) — физическая красная кнопка, способная мгновенно остановить работу распределенной системы.
Единственным надежным способом индивидуальной защиты в этих условиях эксперт считает непрерывное углубление личной экспертизы, называя это «профессиональной вакцинацией». Среднестатистические линейные специалисты — будь то рядовые консультанты или создатели шаблонного контента — будут быстро замещены автоматизацией. Ценность сохранят лишь те, кто научится использовать ИИ как акселератор для выполнения уникальных, высокоуровневых задач в своей узкой нише.
🛡️ ИИ на службе геополитики: цифровая модернизация индийской армии 31:55
Индия обладает одной из крупнейших сухопутных армий на планете, однако ее ключевая уязвимость, по мнению Шриканта Веламаканни, заключается в избыточном фокусе на живой силе и критическом отставании в сфере военных технологий. Эксперт убежден, что индийскому правительству необходимо срочно перенаправить финансовые потоки со снабжения численного состава на закупку ИИ-систем и развитие кибербезопасности.
Еще в 2017 году Веламаканни входил в состав закрытой правительственной комиссии по внедрению ИИ в оборонный сектор Индии. На основе этого опыта он выделяет ключевые технологические приоритеты для современной модернизации армии:
- Интеллектуальная радиоэлектронная борьба: автоматический перехват, дешифровка и анализ каналов связи противника в реальном времени.
- Спутниковый мониторинг: потоковая обработка снимков из космоса нейросетями для мгновенного выявления аномалий и перемещений техники.
- Дроны и беспилотные системы: опыт боевых действий в Украине наглядно продемонстрировал, что даже коммерческие и кастомные гражданские БПЛА стали важнейшим инструментом разведки и тактического превосходства.
Говоря о долгосрочной перспективе, эксперт отмечает, что создание полностью автономных роботизированных армий — это вопрос будущего. Гораздо ближе реальность дополненного солдата (экзоскелеты, AR-интерфейсы). В качестве примера приводится масштабный контракт армии США с корпорацией Microsoft на сумму 21 миллиард долларов на поставку специализированных тактических очков HoloLens, обеспечивающих бойцов на передовой оперативной облачной аналитикой.
💼 Трансформация рынков: ИИ в финансах и юриспруденции 38:45
Финансовый сектор и юриспруденция исторически завязаны на обработку огромных массивов структурированной информации, поэтому они первыми принимают на себя удар автоматизации. В сфере биржевой торговли человеческий фактор уже сведен к минимуму: по оценке эксперта, около двух третей (66%) всех сделок на современных фондовых рынках совершаются алгоритмами высокочастотного трейдинга (HFT), где борьба идет за миллисекунды.
В банковском секторе изменения затронут следующие направления:
- Клиентский сервис: старые примитивные чат-боты уступят место полноценным ИИ-ассистентам, неотличимым от людей.
- Управление рисками: нейросети станут главным инструментом борьбы с отмыванием денег (AML), финансовыми махинациями и нарушениями международных санкционных режимов, анализируя сложные графы транзакций.
Профессия юриста также претерпит тектонические сдвиги. ИИ берет на себя рутинную параюридическую работу: анализ тысяч страниц документации, составление типовых контрактов и поиск юридических лазеек. Однако Шрикант напоминает о феномене «галлюцинаций» ИИ, приводя в пример недавний прецедент, описанный в газете New York Times, когда американский адвокат построил защиту в суде на прецедентах, которые были полностью выдуманы нейросетью. Это доказывает, что квалифицированный человеческий контроль над алгоритмами останется критически важным.
🏆 Глобальная ИИ-гонка: суверенная стратегия Индии против монополии США 43:29
Индия имеет успешный опыт построения национальной цифровой инфраструктуры (DPI), ярким примером которой служат платежная система UPI и система идентификации Aadhaar, ставшие мировыми бенчмарками финтех-демократизации. Тем не менее, в сфере искусственного интеллекта страна оказалась в уязвимом положении.
Около 10% ВВП Индии напрямую зависит от индустрии IT-услуг и аутсорсинга. Внедрение ИИ-помощников для написания кода, автоматического дебаггинга и генерации тест-кейсов повышает производительность разработчиков на 30–40%. Это означает, что компаниям потребуется физически меньше людей для закрытия тех же задач. Профессия инженера по ручному тестированию (QA) в ближайшие годы, по мнению Веламаканни, фактически исчезнет. Учитывая, что к 2030 году на индийский рынок труда выйдет 100 миллионов молодых специалистов, сокращение IT-вакансий грозит масштабным социальным кризисом.
Чтобы не остаться на обочине технологического прогресса, Шрикант Веламаканни предлагает индийскому правительству и бизнесу запустить суверенную программу создания базовых ИИ-моделей (Foundation Models). Суть инициативы заключается в следующем:
- Десять крупнейших технологических компаний Индии (включая Fractal Analytics) инвестируют в общий фонд по 10 миллионов долларов каждая.
- Государство софинансирует проект, добавляя еще 100–200 миллионов долларов.
- Сформированный пул капитала в размере 300–400 миллионов долларов направляется на покупку вычислительных мощностей и наем ста лучших ИИ-инженеров мира.
Эта мера необходима, поскольку США уже используют технологии как геополитическое оружие. В качестве примера приводится жесткий запрет американского правительства на экспорт новейших графических чипов Nvidia серий A100 и H100 в Китай. По мнению Веламаканни, если Индия не создаст собственную независимую вычислительную инфраструктуру и национальные алгоритмы, она рискует попасть в полную цифровую зависимость от американских ИИ-монополий.
