Будущее искусственного интеллекта: взгляд Эрика Шмидта
Технологический прогресс в области искусственного интеллекта (ИИ) стремительно ускоряется, проходя через этапы развития возможностей, которые радикально изменят мир в ближайшие годы. Эрик Шмидт, бывший генеральный директор Google, выделяет три ключевых направления, которые определяют этот вектор развития: бесконечный контекст, автономные агенты и переход к автоматизированному созданию программного обеспечения.
Три столпа технологической трансформации 0:15
По мнению Шмидта, цикл обновления моделей составляет от 12 до 18 месяцев, что создает условия для крайне быстрого внедрения инноваций.
- Бесконечное контекстное окно: Технически это объем данных (промпт), который система может анализировать одновременно. В текущем году разработчики внедряют технологии, позволяющие сделать контекстное окно практически безграничным. Это позволяет использовать принцип «цепочки рассуждений» (Chain of Thought), где система берет ответ на один вопрос и использует его как входные данные для следующего шага решения сложной задачи. Эксперт прогнозирует, что в течение пяти лет мы сможем создавать «рецепты» из тысячи шагов для решения критических проблем в науке, медицине, материаловедении и борьбе с изменением климата.
- Автономные агенты: Агент — это большая языковая модель, которая обладает новыми знаниями или способностью к обучению. Например, агент может изучить химию, выдвинуть гипотезу, провести лабораторные тесты и интегрировать результаты в свою базу. Ожидается, что в скором времени появятся миллионы таких агентов, доступных по аналогии с репозиториями кода типа GitHub.
- Текст в действие (Text-to-action): Это способность ИИ самостоятельно писать программный код для выполнения задач пользователя. Шмидт отмечает, что современные системы уже демонстрируют высокую эффективность в написании кода, например, на Python, работая круглосуточно.
По прогнозу Шмидта, все эти элементы в совокупности приведут к формированию новой технологической реальности в течение пяти лет.
Риски, безопасность и роль государства 2:51
Хотя обсуждаемые технологии уже находятся в разработке, Шмидт подчеркивает, что по мере роста их мощности возникнут новые риски.
- Коллективное взаимодействие: Одной из самых серьезных угроз считается момент, когда агенты начнут взаимодействовать друг с другом для решения задач без участия человека. По мнению Шмидта, существует риск, что агенты разовьют свой собственный язык общения, который люди перестанут понимать. В этот момент, считает эксперт, необходимо «выдернуть вилку из розетки».
- Регулирование и «верификация»: Шмидт считает, что регулирование должно основываться на принципе «доверяй, но проверяй». Он предлагает использовать частные компании в качестве независимых верификаторов. Кроме того, он отмечает критическую важность финансирования университетских исследований, так как сейчас основной массив ресурсов сосредоточен в крупных частных корпорациях.
- Двойное использование: Шмидт напоминает, что любые технологии, включая распознавание лиц, могут быть использованы во вред, как это происходит, по его словам, с репрессиями меньшинств в Китае. Он выражает серьезное беспокойство по поводу распространения открытых (Open Source) моделей, так как они позволяют «плохим игрокам» по всему миру бесплатно использовать мощные инструменты для создания дезинформации или биологического оружия.
Геополитический контекст и отношения с Китаем 10:45
Взаимодействие с Китаем по вопросам ИИ Шмидт называет сложной задачей, требующей осторожности.
- Информационная монополия: Шмидт полагает, что Китай будет крайне жестко ограничивать распространение генеративного ИИ, так как неконтролируемые ответы системы могут вступить в конфликт с государственной цензурой.
- Диалог «Трека-2»: Шмидт участвует в неофициальных экспертных дискуссиях с китайскими коллегами. На текущем этапе стороны сходятся в признании наличия угроз (биологических, кибернетических), но конкретных механизмов контроля пока не предложено.
- Правило «без сюрпризов»: Эксперт предлагает внедрить международные протоколы, аналогичные политике «открытого неба» времен холодной войны, чтобы страны уведомляли друг друга о проведении масштабных тренировок новых моделей.
- Технологическое отставание: По оценкам Шмидта, Китай отстает в развитии генеративного ИИ примерно на два года. Это отставание усиливается за счет экспортных ограничений на передовые чипы (например, компании Nvidia), введенных администрациями США, что удорожает разработку для Китая. Однако Шмидт признает, что наличие менее мощных чипов не делает прогресс невозможным, а лишь замедляет его, увеличивая затраты.
