В рамках серии встреч на World Science Festival физик Брайан Грин обсудил с бывшим генеральным директором Google Эриком Шмидтом текущее состояние и ближайшее будущее технологий. В центре дискуссии — экспоненциальный рост мощности искусственного интеллекта, его влияние на научный метод, риски для демократии и грядущая революция в образовании.
📈 От «мальчика-гика» до архитектора глобальных систем 1:31
Эрик Шмидт, возглавлявший Google с 2001 по 2011 год, описывает свой путь как трансформацию из «мальчика-гика» (boy nerd), строившего модели ракет в Вирджинии, в человека, ставшего частью «истеблишмента» (the man) . По его мнению, успех компьютерных наук в последние десятилетия обусловлен не только интеллектом разработчиков, но и глубоким пониманием масштабирования.
Ключевые вехи и факторы успеха IT-отрасли:
- Доминирование дисциплины: В MIT и Калифорнийском технологическом институте (Caltech) более 50% студентов сегодня выбирают Computer Science в качестве основной специальности .
- Эффект масштаба: Компьютерные науки изменили мир, работая на рынках объёмом в 6–8 миллиардов пользователей (население Земли), что даёт беспрецедентный доступ к данным и аналитике .
- Идеология децентрализации: Современный свободный интернет стал результатом оппозиции правительственному контролю во время войны во Вьетнаме; без этого настроя сеть могла бы развиваться по закрытому китайскому сценарию .
🛠️ Новая логика программирования: от написания кода к его сборке 8:02
Шмидт констатирует фундаментальный сдвиг в том, как создаются технологии. Если раньше он сам проводил ночи за написанием строк кода, то сегодняшние лидеры индустрии воспринимают законы масштабирования и сетевые эффекты как нечто само собой разумеющееся .
По словам Шмидта, программирование превращается в процесс «сборки» (assembly). Он приводит в пример хакатон, где команда за один день создала систему управления виртуальным дроном . С помощью большой языковой модели (LLM) дрон смог понять голосовую команду «пролети между двумя башнями», самостоятельно вычислив значение предлога «между» и измерив расстояние . Шмидт утверждает, что раньше такая задача потребовала бы работы команды из 10 человек в течение месяца .
Прогнозы Шмидта по развитию разработки ПО:
- В течение 3–5 лет любой человек сможет голосом дать команду на создание сложной системы (например, «создай французский поисковик»), и ИИ самостоятельно выполнит все этапы индексации и ранжирования .
- Способность превращать идею в готовый продукт за минуты изменит человеческую организацию, так как ИИ будет предлагать конкретные шаги для реализации любых «сумасшедших идей» .
🧠 ИИ как «цифровой полимат» и напарник 12:40
В соавторстве с Генри Киссинджером, который скончался в ноябре 2023 года, Шмидт написал книгу «Genesis» (готовится к выходу в 2024 году) . Основная идея работы — появление у каждого человека партнёра в виде «цифрового полимата» (универсального учёного).
Шмидт считает, что ИИ не просто ассистент, а некая сущность на телефоне, с которой человек будет находиться в состоянии «интимного ментального союза» . Этот «полимат» будет знать всё в своей области — от истории моды до сложных физических теорем .
Экономические и социальные последствия по мнению Шмидта:
- Удвоение продуктивности: Шмидт выдвигает тезис, что ИИ в конечном итоге удвоит производительность каждого человека .
- Отсутствие экономических моделей: По словам гостя, современные экономисты не имеют моделей для описания ситуации резкого скачкообразного роста продуктивности в два раза .
- Кризис «средних» талантов: Если ИИ-художник сможет конкурировать с 90% современных творцов, судьба тех, кто не входит в топ-10%, остаётся неопределённой .
🔬 Революция в научном методе: ИИ против Эйнштейна 18:37
Брайан Грин задаёт вопрос: сможет ли ИИ совершить творческий скачок, подобный открытию общей теории относительности Эйнштейном? Шмидт полагает, что сегодня и, возможно, в течение нашей жизни это невозможно . Однако в других областях науки ИИ уже доминирует.
Механизмы работы ИИ в науке:
- Токенизация данных: LLM эффективны там, где данные легко превращаются в токены (белки, химия). Физика же располагает меньшим объёмом данных по сравнению с лингвистикой .
- Диффузионные модели: В глубокой физике учёные используют не только LLM, но и диффузионные модели для устранения случайного шума из расчётов и получения чётких моделей явлений .
- Аппроксимация функций: Например, ИИ в Caltech используется для моделирования облаков. Точные вычисления уравнений Навье-Стокса для облаков невозможны, но ИИ выдаёт статистически точные аппроксимации, экономя колоссальные вычислительные ресурсы .
Шмидт описывает сценарий «черного ящика» в науке: система может выдвинуть верную гипотезу (например, о темной энергии) и доказать её, но само доказательство может быть написано на языке, непонятном человеку .
⚠️ Угрозы: от гибели демократии до биологического оружия 48:16
Одной из самых острых тем беседы стала уязвимость демократических институтов. Шмидт выражает крайнюю обеспокоенность тем, что демократия может пасть под давлением генеративного ИИ и соцсетей, ориентированных на прибыль, а не на мораль .
Проблемы информационной безопасности:
- Индустрия дезинформации: ИИ позволяет создавать сети из сотен виртуальных личностей (например, «белая женщина 30 лет с двумя детьми»), которые имитируют реальных людей и продвигают нужную повестку, общаясь с настоящими пользователями .
- Неотличимость дипфейков: Шмидт считает, что когда генерация изображений станет совершенной, легитимность власти будет легко подорвать ложными обвинениями . Он упоминает недавнюю атаку на Тейлор Свифт с использованием поддельных порнографических фото как пример бессилия текущих защитных мер .
- Экстремальные риски: Шмидт определяет их как события, ведущие к гибели более 10 000 человек . ИИ уже сегодня может давать итеративные инструкции по проведению кибератак или синтезу ядов (например, рицина), обходя фильтры с помощью определенных формулировок .
Шмидт предлагает решение в виде цифровых водяных знаков и системы аутентификации источников на базе публичных ключей . Также он выступает за то, чтобы соцсети были обязаны знать реальную личность пользователя, даже если они не раскрывают её публично (модель Uber) .
🛡️ Геополитика AGI: военные базы или открытый код? 1:01:45
Шмидт прогнозирует, что через 10–15 лет технология ИИ станет в 10 000 раз мощнее . Он видит два возможных сценария развития событий:
- Сценарий «10 систем»: США, Китай и ещё несколько стран потратят по $10 млрд на создание сверхмощных систем ИИ общего уровня (AGI). Такие машины будут размещены на военных базах за колючей проволокой и под охраной, как заводы по производству плутония . Доступ к ним будет строго регламентирован правительством.
- Сценарий открытого кода: Появятся миллионы открытых моделей, которые в сумме достигнут той же мощности. В этом случае ограничить их использование или поставить под охрану будет невозможно .
🎓 Образование и медицина будущего 1:05:17
Шмидт критикует текущую систему образования за отсутствие данных о том, как на самом деле учатся люди . Его цель — создание бесплатного «ИИ-тьютора» для каждого ребенка на планете.
Преимущества персонального ИИ-обучения:
- Адаптивность: ИИ подстраивается под темп ученика. Если ребенок застрял на шаге №5, система будет разбивать задачу на ещё более мелкие шаги, пока барьер не будет пройден .
- Визуализация: Шмидт мечтает о динамических учебниках, где вместо текста — сгенерированные изображения и видео, объясняющие сложные концепции (например, физику на скоростях, близких к свету) .
- Доступность: В бедных странах ИИ-врачи и ИИ-учителя смогут компенсировать нехватку квалифицированных кадров .
💻 Пределы «железа» и квантовые горизонты 1:12:19
В области аппаратного обеспечения индустрия приближается к физическому пределу. Современные чипы работают на уровне 3 нанометров, но на отметке 1,4 нм возникает барьер квантового туннелирования — электроны начинают «перепрыгивать» через барьеры, становясь неуправляемыми .
Пути обхода ограничений по версии Шмидта:
- 3D-упаковка: Чипы склеиваются друг с другом вертикально, а электроны перемещаются по микроскопическим каналам между слоями .
- Оптимизация памяти: Новая память с высокой пропускной способностью (HBM) встраивается прямо в пакет процессора, чтобы чип не простаивал .
- Квантовые симуляции: Пока полноценных квантовых компьютеров нет, компании используют GPU для имитации квантового поведения. Это уже позволило создать Halicin — новый мощный антибиотик, отобранный алгоритмом из 10 миллионов вариантов .
Шмидт заключает, что ИИ — это не просто технология, а новая эра, которую необходимо формировать в соответствии с либеральными и демократическими ценностями, пока она не вышла из-под контроля .
