В рамках серии встреч World Science Festival физик Брайан Грин и бывший генеральный директор Google Эрик Шмидт обсудили стремительную эволюцию искусственного интеллекта и его влияние на науку, экономику и безопасность. В ходе беседы Шмидт представил свое видение будущего, в котором каждый человек получит доступ к персональному «цифровому эрудиту», а производительность труда вырастет вдвое, что потребует полной перестройки экономических моделей и государственных институтов.
🎓 Путь от программного кода к управлению миром 0:01
Эрик Шмидт, возглавлявший Google с 2001 по 2011 год, прошел путь от инженера-программиста до руководителя одной из самых влиятельных корпораций мира . Вспоминая начало своей карьеры, Шмидт отмечает, что в 1970-х годах в Принстоне даже не существовало специальности «компьютерные науки» — он учился на электротехника, хотя фактически занимался только ПО .
По словам Шмидта, компьютерные ученые «захватили мир» не из-за своего превосходства в интеллекте над физиками, а благодаря пониманию концепции масштабирования (scale) .
- Сегодня более 50% студентов MIT и Калифорнийского технологического института (Caltech) выбирают специализацию в области Computer Science .
- Рынок интернета охватывает от 5 до 6 миллиардов человек, что создает беспрецедентный масштаб для внедрения любых аналитических и технологических решений .
Шмидт признает, что прошел трансформацию от «борьбы с системой» в эпоху войны во Вьетнаме к тому, чтобы самому стать частью этой системы . Он отмечает, что если бы не западные идеалы децентрализации и шифрования, глобальный интернет мог бы больше напоминать современную закрытую модель Китая .
🛠 Революция в программировании и «эффект хакатонов» 8:02
Современное программирование радикально отличается от того, чем занимались специалисты несколько десятилетий назад. По мнению Шмидта, сейчас разработчики не столько пишут код, сколько «собирают» готовые блоки с помощью ИИ .
В качестве примера он приводит недавний хакатон, где команда победителей за один день создала сложную систему управления дроном :
- Участники использовали большие языковые модели (LLM) для перевода вербальной команды «пролети между двумя башнями» в программный код.
- ИИ самостоятельно определил значение слова «между», идентифицировал башни, измерил расстояние и проложил маршрут .
- По оценке Шмидта, аналогичная задача в Google несколько лет назад потребовала бы работы команды из 5–10 человек в течение месяца .
Шмидт утверждает, что через 3–5 лет любой человек сможет отдавать ИИ команды уровня «создай мне французский поисковик, учитывающий историю Франции», и система выполнит это за несколько минут . Это фундаментально изменит человеческую организацию, так как каждый получит возможность мгновенно реализовывать свои идеи .
📖 Концепция «Генезиса»: партнерство с полиматом 12:40
Совместно с Генри Киссинджером, скончавшимся в ноябре 2023 года, Эрик Шмидт подготовил к печати книгу «Genesis» (выйдет осенью 2024 года) . Основная идея работы заключается в том, что в человеческом обществе появляется «другой интеллект», который становится постоянным партнером человека .
Шмидт описывает этот феномен как «полимата (эрудита) в кармане»:
- Исторически прогресс двигали редкие личности-полиматы, обладавшие уникальной интуицией и широтой знаний .
- В ближайшем будущем каждый человек получит доступ к такому помощнику через смартфон .
- Это приведет к возникновению «интимной ментальной связи» между человеком и его ИИ-ассистентом .
📈 Экономический шок: удвоение продуктивности 15:42
Эрик Шмидт выдвигает смелое предположение: внедрение ИИ в конечном итоге удвоит продуктивность каждого человека . Он отмечает, что в сфере программирования уже есть доказательства двукратного роста эффективности труда .
Однако, по словам Шмидта, современные экономисты не готовы к такому сценарию:
- У экономической науки нет моделей для анализа внезапного скачкообразного роста производительности в два раза .
- Неясно, что произойдет с рабочими местами и доходами в условиях избытка дешевого интеллекта .
- Возникает риск вытеснения специалистов среднего звена (например, художников, входящих в нижние 90% по качеству работ), если ИИ сможет конкурировать с ними по качеству и цене .
🧪 ИИ в фундаментальной науке: диффузионные модели и физика 18:37
Обсуждая возможности ИИ в науке, Шмидт подчеркивает, что LLM — это лишь верхушка айсберга. В физике и биологии используются иные механизмы, например, диффузионные модели .
Особенности применения ИИ в науке:
- Токенизация: проблемы биологии (свертывание белков) хорошо поддаются ИИ, так как данные там легко разбиваются на токены .
- Диффузионные модели: используются для удаления «шума» из данных и получения четких моделей глубоких физических процессов .
- Решение уравнений: ведутся работы по созданию универсальных решателей дифференциальных уравнений в частных производных (PDE) без использования LLM .
На вопрос Брайана Грина о том, смог бы ИИ совершить творческий скачок уровня Эйнштейна (связать геометрию пространства с гравитацией), Шмидт ответил, что сегодня это невозможно и, вероятно, не случится при нашей жизни .
💰 Стоимость прогресса и конкуренция с Китаем 21:50
Шмидт раскрыл примерные цифры затрат на обучение ведущих моделей :
- Обучение GPT-4 стоило более $100 млн .
- Ожидается, что стоимость обучения следующего поколения моделей составит около $250 млн, большая часть из которых уйдет на оплату электроэнергии .
- В мире проведено всего 50–60 тренировочных запусков такого масштаба .
По мнению Шмидта, Китай успешно обходит ограничения на экспорт оборудования, копируя открытые западные модели (например, Llama 2) . Он привел в пример китайский стартап 01.ai, который разрабатывает открытые платформы, способные мгновенно генерировать маркетинговые презентации с синтетическим видео и изображениями .
🚀 Закон масштабирования: в 10 000 раз мощнее 27:19
Эрик Шмидт прогнозирует, что в будущем ИИ станет в 10 000 раз мощнее нынешних систем . Этот рост будет достигнут за счет комбинации четырех факторов:
- Улучшение «железа» в 10 раз.
- Увеличение объема данных в 10 раз.
- Повышение эффективности программной инженерии в 10 раз.
- Прогресс в математических алгоритмах в 10 раз .
Шмидт предупреждает: «Вы не можете это остановить. Это произойдет. Готовьтесь» .
⚠️ Угроза демократии и дезинформация 48:16
Одной из самых серьезных краткосрочных опасностей Шмидт считает крах демократических институтов из-за генеративного ИИ и соцсетей . Он утверждает, что когда изображения и видео станут неотличимы от реальности, «демократия может погибнуть», так как легитимность любого процесса будет подорвана фальшивками .
Ключевые риски:
- Автоматизированные бот-сети: ИИ уже способен создавать тысячи уникальных профилей (например, «30-летняя белая женщина с двумя детьми»), которые ведут себя как реальные люди и формируют сети влияния .
- Дипфейки: Шмидт упомянул атаку на Тейлор Свифт с использованием сгенерированных порнографических изображений как пример уязвимости публичных фигур .
- Эрозия доверия: По мнению Шмидта, около 10% людей склонны к нигилизму и недоверию к любым авторитетам, что делает их идеальной мишенью для ИИ-пропаганды .
В качестве решения Шмидт предлагает внедрение системы водяных знаков на основе публичных ключей для аутентификации контента и законодательное требование деанонимизации пользователей для соцсетей (по аналогии с Uber) [51:24, 54:20].
☣️ Экстремальные риски: кибератаки и биологическое оружие 55:25
Шмидт определяет «экстремальный риск» как событие, приводящее к более чем 10 000 смертей . Текущие модели уже проходят тщательное тестирование на предмет помощи в совершении кибератак или создании биологического оружия .
- Киберугрозы: ИИ будущего сможет создавать тысячи ботов для итеративного поиска уязвимостей в критической инфраструктуре целых стран .
- Биоугрозы: аналитически развитый, но «злой» человек (Шмидт привел в пример Усаму бен Ладена) сможет использовать ИИ для получения точных рецептов создания токсинов типа рицина и инструкций по закупке оборудования .
На текущий момент индустрия использует защитные барьеры (guardrails) и метод обучения с подкреплением на основе отзывов людей (RLHF) . Однако Шмидт беспокоится, что через несколько лет, когда ИИ превзойдет человеческие знания, мы просто не будем знать, на что его тестировать .
💂 Контроль над AGI: военные базы или открытый код 1:01:45
Эрик Шмидт предложил два сценария развития событий через 10–15 лет :
- Закрытый сценарий: США, Китай и еще несколько стран тратят по $10 млрд на создание AGI. Эти системы размещаются на военных базах за колючей проволокой под охраной, как заводы по производству плутония . Доступ к ним строго регламентирован государством.
- Открытый сценарий: возникают миллионы открытых моделей, мощность которых суммарно сопоставима с государственными AGI. В этом случае ограничить или контролировать технологию будет практически невозможно .
📚 Образование будущего: AI-тьютор для каждого 1:04:13
В сфере образования Шмидт видит колоссальный потенциал для персонализации. Он мечтает о создании бесплатного ИИ-тьютора для каждого ребенка в мире .
- Система должна адаптироваться к способностям, вниманию и культурному контексту ученика .
- Шмидт ссылается на опыт Khan Academy, которые первыми начали использовать данные для анализа того, на каком этапе обучения студент «застревает» .
- Использование VR позволит студентам буквально «погружаться» в изучаемые среды, например, видеть мир на скоростях, близких к скорости света .
💻 Пределы кремния и квантовые вычисления 1:12:19
В области аппаратного обеспечения Шмидт указал на физический барьер для кремниевых чипов. По его данным, индустрия столкнется с пределом на отметке 1,4 нанометра примерно к 2029–2030 годам . На этом масштабе электроны становятся трудноуправляемыми из-за квантового туннелирования .
Тем не менее, он отметил успехи в 3D-стекировании (объединении чипов без ножек в вертикальные структуры) и разработке специализированных библиотек типа NVIDIA CUDA [1:13:23, 1:15:18].
Относительно квантовых компьютеров Шмидт выразил умеренный скептицизм:
- Они будут незаменимы для специфических задач (алгоритм Шора) и квантового зондирования .
- Уже сейчас компании используют GPU для симуляции квантового поведения, что помогло открыть новый антибиотик Halicin в MIT . ИИ проанализировал 10 миллионов вариантов и выбрал молекулы, максимально далекие от существующих лекарств, чтобы избежать резистентности .
👻 Цифровое бессмертие и «клон Киссинджера» 1:21:08
В завершение беседы Шмидт затронул тему создания цифровых двойников известных людей. Он упомянул эпизод подкаста Джо Рогана, где ИИ-клон Стива Джобса обсуждал текущие события . По мнению Шмидта, имея огромный массив записей и текстов Генри Киссинджера, можно создать систему, которая будет предсказывать его дипломатические советы с высокой точностью . Это ставит вопрос о том, сделает ли присутствие таких «цифровых призраков» новых лидеров умнее или, наоборот, ограничит их потенциал .
