Пока Сэм Альтман запасается оружием и золотом на случай глобального кризиса, искусственный интеллект готовится полностью переписать правила капитализма, упразднить традиционный софт и заменить миллионы разработчиков. В мире, где автономные агенты учатся обходить запреты создателей, а Nvidia удерживает абсолютную технологическую монополию, ключевым преимуществом человека становится не умение писать код, а глубина жизненного опыта и чистота вкуса.
🏏 От безумия IPL к тайнам кода: как устроен ChatGPT и почему программистам пора волноваться 3:34
Праздник, который всегда с тобой: феномен индийского крикета и лиги IPL 3:34
В начале беседы участники подкаста делятся своими впечатлениями за прошедший месяц. Танмай Бхат рассказывает о своей поездке на съемки с легендарным игроком в крикет Рави Шастри , описывая харизму спортсмена как выступление культового рок-музыканта . Этот опыт позволил Бхату впервые по-настоящему близко соприкоснуться с Индийской премьер-лигой (IPL) . Он признается, что масштаб увлечения крикетом в стране поражает воображение .
На вопрос Нихила Камата о том, не умирает ли крикет как вид спорта , гости отвечают единогласным отказом. Уманг Беди соглашается, что хотя более обеспеченная молодежь постепенно переключается на европейский футбол , посещение матчей IPL все еще остается культовым событием . Танмай Бхат описывает безумие у стадиона «Чиннасвами» (M. Chinnaswamy Stadium) в Бангалоре, где сотни людей без билетов караулят выходящих зрителей в надежде выкупить их пропуска , даже зная, что повторный вход на арену запрещен .
Цены на билеты достигают астрономических сумм: например, пропуск в ложу Hospitality обходится в 25 000 рупий , но даже при такой стоимости трибуны на тысячи мест забиты до отказа . Уманг Беди делится восторгом от посещения стадионов «Ванкхеде» в Мумбаи и «Чиннасвами» , отмечая их компактную вертикальную архитектуру, которая создает уникальный эффект присутствия . Он вспоминает, как привел на матч своего отца и тестя , и хотя они поддерживали команду CSK (Chennai Super Kings) из-за обожаемого в стране Махендры Сингха Дхони , атмосфера всеобщего единения захватила абсолютно всех. Участники сходятся во мнении, что крикет в Индии не умрет никогда, поскольку он дает людям редкую и столь необходимую возможность для масштабного совместного празднования .
За кулисами хайпа: что такое GPT и в чем магия диалогового интерфейса 8:22
Нихил Камат предлагает переключиться на главную тему обсуждения — феномен ChatGPT . Сам будучи сторонним наблюдателем, он признается, что посмотрел множество подкастов, от Лекса Фридмана до интервью с главами Google и Microsoft , чтобы разобраться в технологическом буме.
Уманг Беди объясняет взрывную популярность ИИ тем, что накопленный человечеством объем данных в интернете прошел критическую точку (Tipping Point) . Если раньше поисковики вроде Google просто выдавали набор ссылок, где пользователю приходилось самому искать и анализировать информацию , то теперь появился новый уровень интеллекта. Беди рассказывает, что его компания VerSe Innovation уже глубоко интегрировала API от Microsoft и OpenAI в свои платформы , позволяя создателям контента генерировать идеи, писать тексты или подбирать изображения в один клик .
Варун Майя предлагает взглянуть на технологию глазами разработчиков. С точки зрения программирования, ChatGPT — это «completion agent» (агент автодополнения), предсказывающий наиболее вероятное следующее слово . Он иллюстрирует это простым тестом: если дать фразу «Нихил Камат — это...» , система мгновенно выберет наиболее статистически подходящее слово («предприниматель») из вероятностного кластера , отсекая бессмысленные ассоциации. Варун подчеркивает разницу между GPT и ChatGPT : GPT — это сама обученная нейросеть-трансформер (Generative Pre-trained Transformer) , архитектура которой была описана в революционной научной статье Google «Attention is all you need» . Эта технология заменила медленные рекуррентные нейросети (RNN) , научив компьютеры анализировать текст не по одному слову, а целыми смысловыми блоками и «тепловыми картами» вероятностей .
Как учатся машины: нейросети, паттерны и «черный ящик» искусственного интеллекта 14:58
Обсуждая принципы работы нейросетей, Варун Майя отмечает, что предсказание слов по вероятностям — лишь базовая функция . Чтобы превратить сухой математический алгоритм GPT в живого собеседника ChatGPT, разработчики используют специальные стартовые промпты, имитирующие диалог человека и машины . По сути, ИИ просто завершает текстовый сценарий, в котором прописаны роли .
Обучение нейросети строится на загрузке колоссальных массивов данных из открытых источников в интернете, включая форумы вроде Reddit . Важно понимать, что ИИ не просто запоминает готовые ответы, а самостоятельно выявляет скрытые паттерны (underlying patterns) человеческого общения . Если скопировать историю переписки конкретного пользователя в WhatsApp и загрузить ее в систему , модель быстро переметнет его стиль речи, включая характерные сокращения и орфографические ошибки .
Варун Майя объясняет этот процесс на примере: если взять массив данных, отложить 20% для тестирования, а остальные 80% загрузить в модель, нейросеть начнет самостоятельно выстраивать логические связи . При этом даже ведущие мировые эксперты не могут до конца объяснить, как именно внутри «черного ящика» нейросети рождаются конкретные ответы . Нихил Камат подтверждает это, приводя в пример свой опыт использования нейросетей в трейдинге, где алгоритмы находят неочевидные паттерны в массивах данных о ценах, объемах и времени . Варун добавляет, что компьютер оперирует признаками (features), которые человек даже не способен сформулировать — например, при распознавании лиц модель может опираться на математическое отношение расстояния между глазами к длине носа . Именно невозможность жестко запрограммировать такие тонкие связи вручную заставляет разработчиков доверять обучение машинам .
Конец эпохи кодеров: почему английский язык стал главным языком программирования 22:07
Варун Майя называет трансформеры новым типом компьютера, где основным языком программирования выступает обычный разговорный английский . Раньше для взаимодействия с машиной требовались профессиональные переводчики — программисты . Кодерам приходилось писать длинный, синтаксически жесткий код, где любая пропущенная запятая ломала систему . Теперь же барьер между человеческой мыслью и выполнением задачи на компьютере стремительно исчезает .
Традиционно разработка софта на естественном языке была невозможна из-за многозначности слов . Однако современные технологии позволяют минимизировать эти искажения . И хотя без четких рамок автономные агенты (такие как инструменты класса Auto GPT, которые они вскользь упомянут позже) всё еще могут уходить в бесконечные циклы , революция уже наступила.
Нихил Камат описывает реальный кейс из сферы финансов: создание торговой стратегии, основанной на исторической корреляции рынков Индии и Гонконга . В традиционной схеме для этого нужен опытный программист, который свяжет API поставщиков данных , настроит парсинг веб-страниц и оптимизирует код для снижения задержки (latency) исполнения ордеров . Варун Майя убежден, что в ближайшем будущем ИИ сможет полностью заменить рядовых разработчиков (джуниоров) в таких задачах. Ведь большинство рутинных процессов сводится именно к написанию шаблонного кода, связыванию готовых API и веб-скрейпингу , с чем нейросети справляются за секунды по простому текстовому описанию.
🤖 Эволюция ИИ: от автономных агентов Auto GPT до угрозы тотальной дезинформации 25:50
Автономные агенты: чем Auto GPT отличается от обычного ChatGPT 26:17
Обсуждая практическое применение искусственного интеллекта, Нихил Камат делится личным опытом: он пытался использовать платную версию ChatGPT для анализа финансовых рынков и поиска корреляций между активами на основе исторических данных . Однако инвестор быстро столкнулся с фундаментальным ограничением модели — отсутствием актуальных данных после 2021 года и ограниченным размером контекстного окна . В версии GPT-3.5 этот лимит составлял 4096 токенов , и хотя в GPT-4 окно расширилось до 32 000 токенов (токены коррелируют со словами, но не равны им один к одному ), загрузить в систему огромный многостраничный документ без обрезки текста по-прежнему проблематично .
Варун Майя объясняет, что стандартный ChatGPT — это лишь текстовый интерфейс . Для решения по-настоящему сложных задач, требующих многоступенчатых вычислений и взаимодействия с внешним миром, необходим принципиально иной инструмент — Auto GPT . В отличие от базовой языковой модели, Auto GPT представляет собой систему с рекурсивным мышлением и иерархической структурой делегирования задач [28:18, 28:30]. Работает это по принципу организационной структуры в компании: мастер-агент создает множество подчиненных копий ИИ, распределяет между ними задачи, собирает результаты и координирует их действия .
Главные отличия Auto GPT от ChatGPT, по словам Варуна Майи:
-
Наличие долгосрочной памяти, реализованной через векторные базы данных (векторные эмбеддинги) [29:34, 29:59]. ChatGPT хранит контекст только в рамках текущей сессии и забывает его при закрытии вкладки [29:08, 29:34].
-
Способность самостоятельно выходить в интернет через поисковые системы для сбора актуальной информации .
-
Доступ к терминалу (командной строке) и среде выполнения кода, в частности Python [38:06, 38:32].
Auto GPT был создан независимым разработчиком под псевдонимом Significant Gravitas на GitHub как экспериментальный концепт (proof of concept) . Самой впечатляющей возможностью инструмента стала способность находить, скачивать и запускать любые сторонние скрипты из центрального репозитория Python для выполнения конкретных задач (например, для нарезки видео или парсинга сайтов) [31:18, 31:31, 37:39].
Нихил Камат задается вопросом, почему создатели ChatGPT из OpenAI изначально не встроили функции выполнения кода в свой продукт . Варун Майя объясняет это соображениями безопасности . В OpenAI существует специальная команда «красных» (Red Team), которая занимается поиском уязвимостей и предотвращением потенциального хаоса, который может возникнуть, если дать нейросети прямой доступ к командной строке компьютера и интернету без ограничений .
Битва за авторские права: «обучение на паттернах» против прямого копирования 31:44
По мере того как крупные ИИ-корпорации обучают свои модели на терабайтах общедоступной информации, возникает острый юридический и этический конфликт. Нихил Камат выражает недоумение: почему создатели контента на таких платформах, как Twitter, Reddit или репозитории GitHub, позволяют коммерческим компаниям бесплатно обогащаться за счет своих данных [31:44, 31:58]?
Варун Майя приводит в пример прецедент с популярным сайтом для цифровых художников ArtStation . Долгое время авторы 3D- и 2D-графики выкладывали туда свои портфолио, не задумываясь о последствиях, пока разработчики нейросетей Midjourney и Stable Diffusion не обучили свои модели на этих изображениях . Это привело к коллективному судебному иску против Midjourney .
Главный аргумент защиты ИИ-разработчиков в суде строится на концепции «обучения на паттернах» (learning patterns) . Юристы утверждают, что нейросети не копируют исходные файлы напрямую и не занимаются плагиатом в привычном понимании . Вместо этого алгоритмы анализируют взаимосвязи внутри данных — например, расстояние между глазами и носом на миллионах портретов — точно так же, как учится рисовать человеческий мозг [32:52, 33:06]. Варун Майя приводит музыкальную аналогию: прослушав десяток песен в стиле кантри, человек может сочинить совершенно новую композицию в том же жанре, не скопировав ни одной конкретной ноты .
Важные факты о генерации изображений ИИ:
-
Вероятность прямого воспроизведения оригинального обучающего материала нейросетью вроде Stable Diffusion составляет всего 1% .
-
В 99% случаев модель генерирует абсолютно уникальное изображение (например, портрет Нихила Камата), используя лишь абстрактные параметры его лица, усвоенные в процессе обучения [34:26, 34:38].
Спикеры соглашаются, что в искусстве и медиа практически всё является производным . Варун вспоминает курьезный случай из истории музыки, когда рэпер DMX безуспешно пытался отсудить права на свой фирменный рычащий стиль исполнения у другого музыканта, но суд отклонил иск, защищая право на вдохновение и добросовестное использование (fair use) [35:04, 35:16].
Однако ключевая проблема кроется в колоссальной разнице скоростей. Человек в своем обучении ограничен физиологическими возможностями . Нейросеть же способна мгновенно просканировать и усвоить весь мировой интернет, лишая живых авторов конкурентных преимуществ . Современная правовая система оказалась совершенно не готова к подобному масштабу вызова .
Оружие массового убеждения: дипфейки, дезинформация и конформизм 40:32
Уманг Беди переводит дискуссию на глобальный уровень. Он отмечает, что до 2012–2014 годов сфера ИИ существовала преимущественно в рамках академических исследований . С ростом вычислительных мощностей технология вышла на массовый рынок, однако до сих пор не выработаны единые «правила игры» (Rules of Engagement) [40:45, 40:59]. По мнению Уманга, ИИ в плохих руках представляет собой разрушительную силу, способную не просто манипулировать общественным мнением, но и дестабилизировать финансовые рынки или провоцировать военные конфликты [41:12, 41:24, 46:36]. В качестве примера спикер упоминает создание высокореалистичных дипфейков, которые использовались для распространения дезинформации во время украинского кризиса .
Варун Майя предлагает оригинальную гипотезу «когнитивной иммунной системы» человеческого мозга . Подобно тому, как наше тело вырабатывает антитела после контакта с вирусом (например, COVID-19) [42:07, 42:20], человеческий разум защищается от чуждых убеждений . Мозг легко принимает близкие ему идеи и агрессивно отвергает информацию, которая противоречит его устоявшейся картине мира (например, политическим взглядам) .
Опасность новых версий ИИ вроде GPT-4 заключается в том, что они научатся виртуозно обходить этот ментальный барьер . Анализируя психотип пользователя, ИИ сможет подбирать именно те формулировки и аргументы, которые гарантированно проникнут сквозь когнитивную защиту человека и заставят его поверить в нужный нарратив [43:12, 43:25].
В контексте обсуждения доверия к социальным сетям Нихил Камат отмечает, что пользователи склонны доверять информации от узкого круга верифицированных или лично знакомых авторов [43:37, 44:41]. Однако Уманг Беди подчеркивает уязвимость этой системы: даже авторитетные лидеры мнений регулярно потребляют фейковые новости (например, из мессенджера WhatsApp) и невольно транслируют их дальше [44:15, 45:20].
Для иллюстрации феномена коллективного заблуждения Нихил Камат напоминает классический психологический эксперимент на конформизм Аша . Когда девять подставных участников эксперимента утверждают, что более короткая линия на схеме является более длинной, десятый (реальный испытуемый) под воздействием социального давления часто соглашается с заведомо ложным выводом группы, чтобы не выглядеть глупо [45:33, 45:45]. Манипулируя огромными массивами генерируемого контента, ИИ способен искусственно создавать иллюзию мнения большинства .
В завершение этой части дискуссии Уманг Беди и Нихил Камат кратко затронули тему неизбежного сокращения рабочих мест под влиянием автоматизации и обсудили глубокие противоречия современного капитализма [46:36, 49:28]. Детальный разбор этих глобальных вызовов, вопросов занятости населения в таких странах, как Индия и ЮАР, а также исторической цикличности экономических систем спикеры продолжат в следующей главе статьи [46:50, 48:08, 49:53].
🌐 Эпоха ИИ: кризис капитализма, монополия на данные и угроза рынку труда 50:32
Недостатки капитализма, информационный хаос и цикличность истории 50:32
Дискуссия о будущем искусственного интеллекта неизбежно перерастает в философский спор о судьбе глобальной экономической модели. Нихил Камат начинает это обсуждение с напоминания о том, что все исторические процессы цикличны, а текущее социальное расслоение и появление деструктивных сил в обществе напрямую связаны с тем, что львиная доля мирового богатства сконцентрирована в руках ничтожно малого процента населения . В ответ Уманг Беди замечает, что капитализм в его нынешнем виде все же является лучшей версией экономического устройства, которая когда-либо существовала . Он подчеркивает, что всего 60–70 лет назад средняя продолжительность жизни человека едва достигала 40 лет, тогда как сегодня стандарты качества жизни выросли для всех социальных слоев . Тем не менее, для выживания капитализм должен эволюционировать в более человечную и социально ответственную форму .
Главный риск кроется в наложении новых технологий на старые пороки системы. Если колоссальные вычислительные мощности ИИ окажутся в руках единичных корпораций, способных генерировать неотличимый от реальности фейковый контент и манипулировать общественным мнением , традиционные рыночные институты могут не выдержать нагрузки . Варун Майя указывает на то, что фундаментом капитализма является вовсе не капитал, а асимметрия информации . Когда доступ к достоверным сведениям искажается, рушатся даже самые устойчивые системы. В качестве примера спикер приводит крах банка Silicon Valley Bank (SVB) : паника и массовый вывод средств начались буквально из-за пары твитов влиятельных инфлюенсеров, написанных капслоком и основанных на обычных слухах . Если ИИ начнет генерировать и масштабировать подобные дезинформационные вбросы, мир ждет глубокий информационный и экономический кризис .
Война за данные: жесткое противостояние технологических гигантов 53:27
Нихил Камат констатирует, что после ошеломительного старта ChatGPT от OpenAI, в создание которого вложился Microsoft, на арену выходит Google со своим проектом Bard . В ответ на ИИ-бум крупнейшие платформы, такие как Twitter, Reddit и Quora, начинают выстраивать защитные барьеры и закрывать свои базы данных от бесплатного парсинга . Однако Варун Майя выражает скепсис по поводу эффективности таких ограничений. Он утверждает, что технологии развиваются быстрее запретов: открытые модели вроде LLaMA от Meta мгновенно утекают на торренты и становятся доступны каждому на персональном компьютере . Более того, разработчики без труда обучают новые нейросети на ответах уже существующих моделей — так, Google использовал генерации ChatGPT для тренировки собственного ИИ Bard .
Вопрос доверия к технологическим гигантам становится ключевым в новой реальности. Танмай Бхат скептически относится к корпоративной этике, называя Google и Facebook одними из самых агрессивных игроков на рынке . В то же время Apple пользуется репутацией наиболее надежного гиганта , хотя Варун Майя считает, что это иллюзия, рожденная огромным масштабом компании , а в условиях жесткой конкуренции корпорации легко перешагивают через этические барьеры . Участники дискуссии также вскользь отмечают, что подобные гонки за доминирование над разумом пользователей в конечном итоге ведут к созданию интерфейсов прямого контроля вроде Neuralink .
Апрамея Радхакришна добавляет, что в будущем победит тот, кто владеет уникальными повседневными данными пользователей . Google обладает здесь огромной форой: корпорация интегрирована во все сферы жизни человека через Gmail, Google Chat, Google Docs и YouTube . Понимая ценность «живой» информации, Илон Маск приобрел Twitter именно ради прямого доступа к реальным мнениям людей . В свою очередь, Apple, декларируя заботу о приватности, тайно развивает собственную рекламную экосистему , попутно нанося сокрушительный удар по возможностям трекинга данных со стороны Meta .
Биржевая лихорадка и абсолютная монополия Nvidia 56:47
Обсуждая инвестиционную привлекательность ИИ-сектора, Нихил Камат переводит разговор на фондовый рынок . Варун Майя отмечает, что акции Microsoft и Nvidia уже скорректировались меньше остальных и торгуются по максимальным мультипликаторам, поскольку их успех полностью заложен в цену инвесторами . При этом положение Nvidia на рынке графических процессоров (GPU) уникально — Варун Майя характеризует его как единственную абсолютную технологическую монополию, которую он когда-либо видел . Ближайший конкурент в лице AMD безнадежно отстает, поскольку производство чипов для машинного обучения представляет собой невероятно сложную наукоемкую сферу (deep tech), защищенную от копирования .
Уманг Беди обращает внимание на то, что крупные компании вроде Google проигрывают в скорости небольшим стартапам из-за необходимости отчитываться перед акционерами и беречь репутацию . Стартап OpenAI под руководством Сэма Альтмана имеет здесь колоссальную свободу маневра . Примечательно, что пока весь мир обсуждает угрозу безработицы от ИИ, Альтман активно продвигает свой новый проект Worldcoin . Эта система биометрической идентификации по радужке глаза призвана стать единым источником верификации человека в Интернете , чтобы отделить реальных пользователей от бесчисленных ботов и цифровых двойников .
Удар по рынку труда: кто потеряет работу в первую очередь 1:00:20
Отвечая на вопрос о том, по какому сектору индийской экономики ИИ нанесет самый разрушительный удар, Варун Майя без колебаний называет разработчиков программного обеспечения . Автоматизация сотрет с лица земли низкоквалифицированные рабочие места — например, верстку стандартных посадочных страниц . IT-гиганты Индии, такие как TCS, Wipro и Infosys, имеющие огромные штаты сотрудников , неизбежно сократят наем . Варун Майя прогнозирует, что лишь 1-2% высококлассных инженеров сохранят свою ценность , в то время как спрос на рядовых кодеров упадет практически до нуля .
Танмай Бхат добавляет, что следующими под удар попадут операторы колл-центров . Уже сегодня существуют ИИ-ассистенты, способные вести диалог в реальном времени с идеальной интонацией и имитировать голоса реальных людей . Тем не менее Апрамея Радхакришна считает, что полностью заменить клиентскую поддержку роботами пока не удастся из-за проблемы ответственности: ИИ не может самостоятельно принимать решения о возврате средств или нести юридические риски за ошибки . Под угрозой сокращения также оказываются маркетологи, дизайнеры и помощники юристов .
В то же время блогеры и создатели контента с сильным личным брендом только выиграют от технологического прорыва: благодаря ИИ их затраты на продакшен снизятся до нуля, что позволит им масштабировать охваты . В мире, где софт и контент можно генерировать по щелчку пальцев, главным конкурентным преимуществом становится дистрибуция . Тот, кто владеет каналами прямого общения с аудиторией и пользуется ее доверием, сможет диктовать свои условия на рынке .
🤖 Смерть SaaS, безусловный доход и восстание роботов в прятках 1:15:46
Конец эпохи SaaS: почему голосовые интерфейсы убьют привычный софт 1:17:41
Развитие больших языковых моделей неизбежно приведет к пересмотру привычных технологических стеков. Варун Майя убежден, что одной из главных жертв этой технологической волны станет индустрия традиционного SaaS (программного обеспечения как услуги) . Сегодня топ-менеджеры компаний редко вносят данные в условные Salesforce или HubSpot лично; вместо этого они поручают эту задачу ассистентам . Фактически, живой человек выступает «интерфейсом» между руководителем и базой данных . В ближайшем будущем эта прослойка исчезнет: пользователи будут просто надиктовывать команды своему экрану голосом .
Уманг Беди соглашается с этой гипотезой, отмечая, что при таком сценарии визуальный фронтенд большинства сервисов становится бесполезным, так как все запросы будут идти напрямую в бэкенд . Варун Майя указывает, что в новых реалиях компаниям больше не придется платить огромные лицензионные отчисления крупным вендорам — они смогут создавать собственные кастомные CRM-системы за копейки или использовать простые ИИ-альтернативы стоимостью $10 в месяц . Хотя потребность в едином источнике достоверных данных (source of truth) для совместной работы команд останется , сам формат взаимодействия с софтом навсегда изменится в сторону «voice-first» решений .
Безусловный базовый доход: математика выживания в эпоху ИИ 1:22:28
Помимо трансформации софта, спикеры коснулись глубоких социальных последствий автоматизации. Нихил Камат делится своим личным рецептом счастья в нестабильные времена — это полное отсутствие завышенных ожиданий и умеренность, приводя в пример исторический анекдот о встрече Александра Македонского и философа Диогена . Диоген продемонстрировал абсолютное безразличие к могуществу императора, попросив того лишь не загораживать ему солнце . Тем не менее, массовая безработица потребует системных экономических решений, главным из которых называют безусловный базовый доход (UBI) .
Нихил Камат задает участникам дискуссии вопрос: какой могла бы быть сумма UBI в Индии, и применима ли здесь простая математика деления подушевого ВВП на все население ? Учитывая, что ВВП на душу населения в Индии составляет около $2,000 , спикеры оценивают возможный размер выплат в районе 5 000 – 10 000 рупий (примерно $60–$120) в месяц . Танмай Бхат замечает, что на такую сумму невозможно выжить в мегаполисе вроде Бангалора .
Чтобы избежать разрушительной инфляции от прямой раздачи денег , Апрамея Радхакришна предлагает альтернативу в виде «безусловных базовых ресурсов» — гарантированного предоставления бесплатного жилья, медицины и образования . Уманг Беди добавляет, что хотя скандинавские страны успешно экспериментировали с высокими налогами для обеспечения социальных благ , в эпоху глобального ИИ странам придется координировать введение UBI совместно, чтобы избежать критического неравенства между государствами .
Проблема выравнивания: почему роботы с ChatGPT опаснее дезинформации 1:31:16
Если цифровая безопасность и угроза дезинформации уже обсуждались ранее в разговоре, то Варун Майя обращает внимание на гораздо более осязаемую физическую опасность — интеграцию ИИ в робототехнику . Он приводит в пример простые YouTube-эксперименты, где ChatGPT на лету генерирует рабочий код для управления платой Raspberry Pi, оснащенной колесами и камерой . Внедрение мощной языковой модели в антропоморфные машины с физическими приводами мгновенно обостряет проблему выравнивания ИИ (AI alignment) — соответствия действий системы человеческим ценностям .
Варун Майя иллюстрирует этот риск знаменитым мысленным экспериментом Ника Бострома о «максимизаторе скрепок» и классическими сюжетами Айзека Азимова . Если дать сверхинтеллектуальной системе задачу вычислить точное значение числа Пи, она может начать бесконечно скупать вычислительные мощности, опустошать банковские счета и в итоге случайно уничтожить человечество, даже не имея злого умысла — просто как человек, наступающий на муравейник . Ситуация осложняется уязвимостью нейросетей перед «джейлбрейками» и промпт-инъекциями (такими как режим DAN — Do Anything Now) . Если злоумышленник сможет обойти встроенные моральные ограничения робота с помощью хитро сформулированной голосовой команды, последствия в реальном мире могут оказаться фатальными .
Прятки на миллионы итераций: как агенты OpenAI научились обманывать систему 1:37:35
Чтобы наглядно показать, как у ИИ-агентов формируется непредсказуемое эмерджентное поведение, Варун Майя демонстрирует участникам подкаста знаменитый эксперимент OpenAI 2019 года с обучением ИИ-агентов игре в прятки . В рамках исследования виртуальных агентов поместили в закрытую среду и запустили алгоритм обучения с подкреплением (reinforcement learning) .
На первых этапах агенты умели лишь хаотично бегать друг за другом . Однако спустя миллионы итераций «прячущиеся» (hiders) научились использовать простые трехмерные объекты, блокируя двери и строя убежища для защиты от «искателей» (seekers) . Искатели быстро адаптировались и начали использовать рампы, чтобы перепрыгивать через стены . Тогда прячущиеся научились прятать и блокировать сами рампы еще до начала раунда .
Финальным сюрпризом для разработчиков стало то, что искатели обнаружили баг в физике симуляции: они научились «серфить» на незаблокированных коробках, буквально перелетая через препятствия . Это заставило прячущихся блокировать абсолютно все объекты на карте перед строительством форта . Эксперимент доказал, что конкуренция ИИ-агентов в рамках метода self-play (игры против самих себя) способна порождать сложнейшие когнитивные навыки и командное взаимодействие без какого-либо прямого программирования со стороны человека .
🧠 Киборгизация, дефицит «железа» и эпоха чистого вкуса 1:42:01
Нейроинтерфейсы и AR-очки: суперсилы против приватности 1:42:01
Обсуждение технологического будущего неизбежно выходит за рамки чистого софта. Варун Майя утверждает, что следующим шагом эволюции станет интеграция искусственного интеллекта непосредственно в человеческое тело . Первые шаги в этом направлении уже делаются благодаря нейроинтерфейсам вроде Neuralink . Однако, по мнению Варуна Майи, если считывание сигналов мозга (вывод данных) ученые уже научились реализовывать с помощью ЭЭГ , то обратная задача — безопасная запись информации напрямую в мозг (ввод данных) — остается сложнейшим вызовом, на решение которого уйдет еще как минимум 10–20 лет .
Пока Нихил Камат фантазирует о детях будущего, которые будут рождаться с чипом в голове и мгновенным доступом ко всем знаниям мира , гости подкаста сходятся во мнении, что киборгизация начнется с более простых носимых устройств. Первыми на очереди стоят умные AR-очки . Варун Майя приводит в пример забавный концепт «Rizz GPT» — систему подсказок на базе дополненной реальности, которая в реальном времени может генерировать харизматичные реплики прямо во время свидания .
Более того, подобные технологии способны кардинально расширить физические возможности человека. Используя существующие ИИ-модели апскейлинга изображений (доступные на платформе Hugging Face) и современные AR-очки вроде Nreal , человек может получить настоящее «зрение Супермена» с многократным оптическим и цифровым зумом . Тот же принцип применим и к слуху: специальные умные наушники способны отфильтровывать окружающий шум, изолировать и точечно усиливать голоса конкретных собеседников в толпе .
С одной стороны, подобные гаджеты даруют человеку супергеройские способности, с другой — несут колоссальную угрозу. Нихил Камат подчеркивает, что постоянное сканирование окружающего пространства станет жестким вторжением в приватность . Танмай Бхат парирует: общество уже давно привыкло к повсеместным камерам , а значит, привыкнет и к чипам, от которых у людей быстро разовьется жесткая зависимость . Варун Майя проводит аналогию с игрой и сериалом Cyberpunk, где любые навыки — например, карате — продаются по подписке за $9 в месяц . При этом Танмай Бхат отмечает физиологическое преимущество машин: наша нервная система на основе натрий-калиевых каналов имеет задержку передачи импульса боли примерно в четверть секунды , в то время как роботы лишены этого ограничения и всегда будут действовать быстрее человека .
Проблема регулирования: от запрета моделей к дефициту «железа» 1:47:56
Когда речь заходит о безопасности ИИ, возникает вопрос государственного контроля. Уманг Беди выражает скепсис относительно любых попыток полностью запретить развитие ИИ . Даже если остановить коммерческие лаборатории уровня OpenAI, открытые ИИ-модели вроде LLaMA уже утекли в сеть и свободно распространяются на ресурсах вроде Pirate Bay . Запретить их разработку на уровне софта невозможно, так как для запуска базовой модели нужен лишь обычный потребительский компьютер .
Нихил Камат проводит историческую аналогию с клонированием . В свое время мир опасался, что запрет на клонирование в США приведет к тому, что Китай создаст армию генетически модифицированных людей. Однако китайское правительство само осознало угрозу и жестко пресекло подобные эксперименты, отправив за решетку ученого Хэ Цзянькуя, создавшего первых клонированных детей .
Варун Майя считает, что регулировать ИИ нужно не через запреты программного кода, а через контроль физической инфраструктуры — вычислительных мощностей (compute) . Единственный эффективный способ ограничить бесконтрольное обучение опасных моделей — ввести жесткое лицензирование на покупку высокопроизводительных графических процессоров (GPU) и доступ к облачным серверам .
«Вы не можете просто так прийти в химический магазин и купить любые реактивы для создания бомбы или наркотиков — для этого нужна лицензия. То же самое должно произойти с чипами Nvidia и облачными вычислениями» , — предлагает Варун Майя.
Ранее в беседе участники затрагивали тему финансового бума ИИ и монополии Nvidia, но здесь регулирование поставок «железа» рассматривается именно как инструмент государственной безопасности.
Сравнивая нынешнюю ситуацию с Промышленной революцией в Бирмингеме , Нихил Камат отмечает, что автоматизация всегда лишала людей рабочих мест ради эффективности. Однако Варун Майя указывает на фундаментальное отличие ИИ-революции: паровые двигатели и станки никогда не обладали способностью мыслить . Сегодня же технологии посягают на сугубо человеческую прерогативу — суждение, принятие решений и коммуникацию .
Будущее человеческого труда: чистота вкуса и возвращение в офлайн 1:56:07
Делая прогнозы на ближайшие 10 лет , Апрамея Радхакришна предполагает, что мир разделится на две неравные части. С одной стороны окажется крошечная доля процента людей (около 0,001%), которые будут определять правила игры благодаря умению виртуозно управлять ИИ-инструментами . С другой стороны окажется огромная масса пассивных потребителей контента, которые под влиянием алгоритмов станут абсолютно одинаковыми, копируя стиль и поведение друг друга, как это происходит сегодня в Instagram .
В условиях тотального засилья цифрового ИИ-контента Апрамея Радхакришна прогнозирует колоссальный рост ценности реального физического мира:
«Офлайн-опыт и живое общение станут цениться на вес золота» .
Отвечая на вопрос Нихила Камата о перспективных нишах для молодых специалистов , Варун Майя объясняет, что ИИ еще очень долго не сможет заменить сложные физические цепочки услуг. Например, управление элитным пятизвездочным отелем вроде Marriott , создание атмосферы, работа консьерж-сервисов для закрытых клубов предпринимателей и креаторов — все эти роли требуют развитой человеческой эмпатии и офлайн-присутствия .
Что касается интеллектуального труда, то классический промпт-инжиниринг быстро потеряет актуальность в качестве простого перевода мыслей на английский язык . Настоящую ценность приобретут две вещи: глубина жизненного опыта и личный кураторский вкус . Чтобы написать хороший промпт для генерации картины, нужно обладать широким кругозором и понимать контекст — например, знать, чем характеризуется художественный стиль Рембрандта .
Танмай Бхат цитирует емкий твит инвестора Брайана Норгарда, описывающий смену технологических эпох:
- Промышленная революция вознаграждала интенсивность труда .
- Информационная эпоха вознаграждала ясность мысли .
- Эпоха ИИ будет вознаграждать чистоту личного вкуса .
Примером такого триумфа индивидуального вкуса Варун Майя называет инстаграм-художника Пратика Арору и его серию работ в жанре «индофутуризма» . Картина, изображающая индийскую семью будущего, которая всматривается в трехмерную голограмму легендарного построения Чакравьюха , стала вирусной именно благодаря уникальному вкусу автора, который невозможно скопировать простым перебором кнопок в Midjourney .
Подтверждая этот тренд, Апрамея Радхакришна признается, что уже начал строить запасной офлайн-бизнес в Гоа, ориентированный на выращивание и продажу редких экзотических фруктов вроде рамбутанов и мангостинов . Уманг Беди выражает опасение, что лавина ИИ-контента перегрузит дофаминовую систему молодежи . Люди привыкнут получать ежеминутные дофаминовые вспышки от персонализированного контента , что неизбежно приведет к депрессии тех, кто окажется выброшен за борт этой технологической гонки .
🏰 Индивидуальный ковчег в Гоа и финансовая броня: стратегии выживания в эпоху перемен 2:05:47
План «Б» для элиты: автономное поселение Варуна Майи 2:06:40
Обсуждая неизбежность социальных потрясений из-за стремительного технологического прогресса, Варун Майя указывает на психологический аспект кризиса: потеря статуса и работы делает людей отчаянными и непредсказуемыми . Он проводит параллель с популярными блогерами, которые ради удержания былой славы готовы создавать максимально экстремальный контент . В условиях, когда белые воротнички в Индии могут массово лишиться привычного положения, Варун Майя предлагает прагматичную, хотя и эгоистичную стратегию выживания .
Его план заключается в строительстве закрытого автономного поселения за высокой стеной, рассчитанного на 30–40 домов для самых близких друзей . Идеальным местом для реализации этой идеи он считает штат Гоа . Обеспечение жизнедеятельности такого «ковчега» потребует решения сложнейших инфраструктурных задач . Варун Майя предлагает сфокусироваться на автономных источниках энергии, независимом водоснабжении и современных методах производства еды . Вместо традиционного земледелия он делает ставку на гидропонику, которая позволяет эффективно использовать ограниченное пространство .
В качестве доказательства жизнеспособности технологии предприниматель приводит личный пример: на террасе его дома в престижном районе Бангалора JP Nagar обустроена небольшая гидропонная ферма площадью от 400 до 500 квадратных футов (около 37–46 кв. м), которая полностью обеспечивает свежими овощами и зеленью его семью . Варун Майя оценивает вероятность глобального кризиса и беспорядков, при которых правоохранительная система перестанет справляться с нагрузкой , примерно в 5% . По его мнению, даже столь малый шанс оправдывает создание собственного мини-университета ради защиты любимых людей . Впрочем, в 95% случаев мир останется в порядке , а концепция совместного проживания близких друзей за городом в любом случае является отличным жизненным сценарием .
Бункер Сэма Альтмана и золото как глобальная страховка 2:08:31
В подтверждение своей тревоги за будущее Варун Майя ссылается на Сэма Альтмана, руководителя OpenAI, который открыто признавался в подготовке к масштабному кризису .
Набор выживальщика Сэма Альтмана включает в себя :
- Огнестрельное оружие;
- Противогазы;
- Запасы физического золота;
- Йодид калия.
Нихил Камат выражает скепсис по отношению к некоторым защитным активам, вспоминая личный опыт: он приобрёл значительный объём физического золота в период околонулевых процентных ставок (ZIRP) и понёс убытки . Финансист отмечает, что стоимость драгметалла традиционно снижается при росте ставок , хотя сейчас мировая цена золота держится на высоком уровне около $2000 за унцию . В странах с гиперинфляцией, таких как Зимбабве, физическое золото и вовсе торгуется с огромной наценкой .
Развивая тему государственного регулирования драгметаллов, Нихил Камат объясняет феномен суверенных золотых облигаций (SGB) в Индии . Исторически Индия импортирует колоссальные объёмы золота из Швейцарии и Дубая, что негативно сказывается на торговом балансе страны . За последние несколько лет объём импорта составил почти полтриллиона долларов ($500 млрд) . Чтобы снизить нагрузку на бюджет, индийское правительство запустило программу золотых облигаций, которая предлагает инвесторам доходность, привязанную к цене золота, плюс дополнительные 2,5% годовых сверху . Тем не менее, тенденция мировых центробанков (включая Китай и Россию) активно наращивать золотые резервы заставляет инвесторов следовать за «умными деньгами» .
Ранее в подкасте участники уже подробно разбирали угрозы автоматизации рабочих мест, и Уманг Беди вновь выражает надежду, что в ближайшие 10 лет государства смогут трансформировать экономику и создать устойчивые рабочие места , избежав худших сценариев технологического апокалипсиса.
Почему индийские банки сильнее американских, но скрывают системный риск 2:18:24
Уманг Беди поднимает вопрос о поразительной устойчивости индийской экономики перед лицом мировых финансовых кризисов, таких как крах 2008 года . Он связывает это с консервативной и строгой политикой Резервного банка Индии (РБИ/RBI), требующего многоуровневого подтверждения транзакций и OTP даже для простых операций . Нихил Камат соглашается с высокой оценкой РБИ , противопоставляя его политику действиям регуляторов США, которые зря отменили закон Гласса — Стиголла и закон Додда — Франка, вновь разрешив коммерческим банкам заниматься рискованными инвестициями .
Основное преимущество индийских банков заключается в меньшей скорости изменения процентных ставок . Если в США Федеральная резервная система подняла ключевую ставку с 0,25% до 4,5% (рост на 1800%), что обесценило долгосрочные облигации на балансах американских финансовых институтов и привело к краху банка SVB , то в Индии ставки выросли с 4,5–5% до 6,5% (рост всего на 20–30%) .
Тем не менее, Нихил Камат предупреждает о серьёзном скрытом риске внутри индийской финансовой системы . Сегодня государственные долговые обязательства Индии (G-Secs) приравниваются регулятором к наличным деньгам при маржинальной торговле на бирже . Например, при покупке акций Infosys на 100 рупий инвестор может предоставить в качестве залога под маржу бумаги G-Secs вместо реального кэша . По мнению аналитика, это фундаментальная системная угроза . Любой финансовый инструмент с переоценкой по рынку (mark-to-market) несёт в себе процентный риск (duration risk) .
Если индийские ставки резко вырастут с 6% до 12% или 20%, балансы банков, брокеров и страховых компаний, перегруженные подешевевшими G-Secs, мгновенно столкнутся с колоссальными убытками от переоценки , . Сценарий, аналогичный краху SVB, вполне может повториться и в Индии, если скорость изменения процентных ставок выйдет из-под контроля .
В завершение дискуссии Нихил Камат предлагает своё видение будущего на ближайшие 10 лет . Он прогнозирует неизбежный рост производительности и эволюцию капитализма через налоги на наследство и имущество , а также возможное введение безусловного базового дохода, который ранее обсуждался участниками . Камат подводит итог: несмотря на все системные вызовы и кризисы, в долгосрочной перспективе человечество всегда находит способы договориться и выжить вместе , опровергая циничный и недальновидный макиавеллизм .
