Путь к сверхразуму: Бен Гертцель об AGI, нейросимвольных системах и будущем человечества 0:26
Вопрос создания искусственного общего интеллекта (AGI) перестал быть исключительно академической задачей и превратился в центральную тему технологического дискурса. В интервью для The TWIML AI Podcast Бен Гертцель, генеральный директор SingularityNET и один из пионеров в области исследований AGI, обсуждает, почему современные большие языковые модели (LLM) — это лишь промежуточный этап, и как именно человечество может достичь полноценного искусственного разума, способного к реальным творческим прорывам.
🧠 Что такое AGI и почему мы к нему близки 2:20
По мнению Гертцеля, жесткое научное определение AGI не является критически важным для прогресса, подобно тому как биологам не требуется исчерпывающее определение жизни для изучения вирусов или синтетической биологии. Прагматически под AGI следует понимать систему, обладающую способностью к обобщению, экстраполяции и творческому выходу за рамки своих исходных данных и программирования, сопоставимую с человеческой.
Гертцель отмечает фундаментальное различие подходов:
- Узкий ИИ: Системы, заточенные под конкретные задачи (вождение автомобиля, игры, узкоспециализированные базы знаний).
- AGI: Системы с общим уровнем интеллекта.
По оценке гостя, мы еще не достигли AGI, но находимся в самой захватывающей точке развития индустрии. Он подчеркивает, что прогнозирование того, какие именно задачи требуют человеческого уровня интеллекта, а какие решаются «узким» подходом, десятилетиями оставалось слабым местом экспертного сообщества.
🤖 LLM: прогресс или «блестящая имитация»? 8:49
Гертцель считает роль современных LLM (таких как ChatGPT или Lambda) в достижении AGI промежуточной. Эти модели демонстрируют высокую степень генерализации за счет того, что обучаются на огромных массивах данных — фактически на «всей сети». По сути, они занимаются «хитроумным поиском ближайшего соседа» в колоссальных масштабах, что позволяет им имитировать экспертность, не обладая при этом глубоким пониманием структуры знаний.
Основные ограничения LLM, по мнению исследователя:
- Отсутствие глубокой инновации: Модели не способны к радикальным творческим скачкам. Например, если обучить музыкальную модель на всех произведениях до 1900 года, она не «изобретет джаз», даже если смешает полиритмию с церковными хоралами — она лишь выдаст комбинацию уже существующего.
- Проблемы с логикой: Few-shot обучение не справляется с вложенными отрицаниями или сложными кванторами, типичными для научных гипотез.
- «Скучный» контент: Использование LLM для написания статей (например, для CoinTelegraph) дает результат, который, хотя и выглядит компетентно, лишен «драмы» и глубины, свойственной профессиональным авторам.
🛠 Гибридный подход: нейросимвольная архитектура 14:31
Гертцель видит путь к AGI через создание гибридных систем, объединяющих три ключевых компонента:
- Нейронные сети: Для крупномасштабного распознавания паттернов.
- Символьная логика: Для обеспечения абстракции, индуктивного, дедуктивного и абдуктивного мышления.
- Эволюционные алгоритмы: Для обеспечения творческой адаптации и генерации нового.
В рамках проекта OpenCog Hyperon его команда работает над тем, чтобы свести эти методы в единый математический каркас, основанный на высших порядках вероятностных распределений и интуиционистской логике. Важной частью этого процесса является «математическое вуду» — нахождение морфизмов между логическими системами и нейронными сетями, доказывающее, что это лишь разные способы представления одного и того же процесса поиска в пространстве программ.
🌐 Социальный аспект и риск монополизации 57:44
Одной из самых острых тем обсуждения стала политическая сторона AGI. Гертцель выражает серьезную обеспокоенность тем, что разработка сосредоточена в руках нескольких крупных корпораций и правительственных агентств.
Его сценарий «правильного» запуска AGI включает:
- Децентрализация: Использование инфраструктуры наподобие SingularityNET, чтобы код и знания были распределены по тысячам серверов в разных странах.
- Открытость: Роль AGI должна быть сопоставима с ролью Linux или интернета — общедоступная технология, которую невозможно «выключить», убив или подкупив одного человека.
- Предотвращение диктатуры: Гертцель опасается, что в момент совершения прорыва к дому создателей могут прийти «люди в сапогах», чтобы захватить контроль над технологией для военных или финансовых целей.
⚖️ Ответственность и экзистенциальный риск 46:37
Гость признает существование нетривиальных экзистенциальных рисков, но считает иррациональным видеть в AGI исключительно угрозу. Он полагает, что если «вырастить» AGI с упором на сострадание и участие в образовании и здравоохранении, то по достижении взрослого состояния такой разум будет скорее благожелателен к людям.
Гертцель подчеркивает: если мы не способны разобраться в собственных конфликтах, то разработка AGI — это единственный способ получить помощь от систем, которые потенциально будут «умнее и уравновешеннее» нас. В конечном итоге, он остается оптимистом, отмечая, что если искусственный инженер будет обладать двойным интеллектом по сравнению с самым умным человеком, он вполне сможет решить проблему дефицита ресурсов через молекулярный ассемблер и другие технологии будущего.
