Будущее ИИ: между научным оптимизмом и рисками глобальной катастрофы 0:00
Физик и исследователь ИИ Макс Тегмарк в беседе с ведущим подкаста Брайаном Китингом обсудил стремительную эволюцию искусственного интеллекта, проблему создания универсального разума (AGI) и необходимость регулирования технологий, которые могут радикально изменить будущее человечества. Центральной темой стала дискуссия о том, является ли ИИ лишь инструментом или «биологическим компьютером», способным в ближайшем десятилетии совершить прорыв в фундаментальной физике.
🧠 Природа интеллекта и потенциал AGI 1:46
Макс Тегмарк полагает, что мы находимся на пороге создания AGI, который сможет заниматься научными исследованиями на уровне человека или даже превзойти его.
Основные аргументы Тегмарка:
- Биологический компьютер: Главный вывод, двигающий революцию ИИ, заключается в том, что человеческий мозг — это биологический компьютер, и существуют более быстрые способы построения систем обработки данных.
- Архитектурная неэффективность: Современные модели (например, архитектура Transformers в ChatGPT) потребляют несоизмеримо больше энергии, чем человеческий мозг, который справляется с задачами, расходуя всего около 20 Вт. Тегмарк уверен, что при достижении AGI система сможет перепроектировать свое «железо» и архитектуру, сделав их в тысячи раз эффективнее.
- Символьное мышление: Важнейший барьер — переход от «системы 1» (интуитивное, быстрое мышление, работа с данными) к «системе 2» (символьное, осознанное мышление, абстрагирование). По мнению Тегмарка, именно способность к абстрактному символьному описанию мира, как это делал Галилей, сделала человечество доминирующим видом. Современные языковые модели пока не способны на интроспекцию и полноценное формулирование новых законов природы.
Тем не менее, эксперименты группы Тегмарка в MIT по символьной регрессии уже показали, что ИИ может «за час» открывать закономерности, на которые у Кеплера или ученых прошлого уходили десятилетия.
⚖️ ИИ: «Бумер», «думер» и вопросы безопасности 16:53
Макс Тегмарк категорически не согласен с ярлыком «думер» (пессимист), который ему присваивают некоторые представители ИИ-индустрии, такие как Ян Лекун.
- Позиция Тегмарка: Он называет себя «бумером» (оптимистом), так как верит в огромный потенциал технологий для процветания человечества. Сравнение с мерами безопасности в автомобильной индустрии (введение ремней безопасности) является для него ключевой аналогией. Введение стандартов безопасности не «убивает» индустрию, а создает доверие у потребителей.
- Регулирование: На текущий момент, по мнению Тегмарка, в США практически отсутствует значимое регулирование ИИ, за исключением исполнительного указа Байдена. Он подчеркивает, что добровольные обязательства компаний вроде OpenAI и Anthropic должны стать законодательно закрепленными нормами, чтобы конкуренты не находились в неравных условиях.
- Революция в науке: Тегмарк сравнивает современные исследования ИИ с «золотым веком» изучения реликтового излучения, отмечая, что изучать ИИ проще, так как можно измерить состояние каждого «нейрона» и «синапса» без этических ограничений.
👔 Проблема «интеллектуальной проституции» 23:52
Одной из самых острых тем стала зависимость исследователей ИИ от финансирования Big Tech.
- Конфликт интересов: Тегмарк утверждает, что многие ученые, выступающие с докладами по этике ИИ на крупных конференциях (например, ICML), получают финансирование от Facebook и других технологических гигантов, при этом не раскрывая его.
- Аналогия с табачной индустрией: Он называет это «интеллектуальной проституцией», проводя параллель с ситуацией, если бы эксперт по общественному здоровью выступал с лекцией о вреде курения, находясь на зарплате у Philip Morris.
- Системная ловушка: По словам Тегмарка, даже если руководители компаний искренне хотят действовать этично, они заперты в «гонке на выживание». Если один CEO решит взять паузу для проверки безопасности, его немедленно заменят акционеры. Решение, по мнению гостя, возможно только на уровне государственного вмешательства, устанавливающего единые правила для всех участников.
🌌 Квантовый мозг и смысл человечества 42:12
В завершение обсуждения были затронуты фундаментальные вопросы о сознании.
- Против гипотезы Пенроуза: Тегмарк выразил скепсис по отношению к идее Роджера Пенроуза о микротрубочках как основе квантового сознания в мозге. Его собственные расчеты показали, что квантовые суперпозиции в «теплом и влажном» мозге разрушаются слишком быстро, чтобы поддерживать процесс мышления.
- Тест на сознание: На вопрос о том, как доказать существование «множественных миров» (теория Эверетта), Тегмарк ответил просто: нужно создать квантовый компьютер, способный запустить ChatGPT в суперпозиции, чтобы машина могла описать свои осознанные переживания.
- Послание потомкам: Если бы Максу Тегмарку пришлось оставить «завещание» для будущего человечества, он бы посоветовал создавать такие стимулы, которые раскрывают лучшие качества людей, чтобы технологии использовались во благо, а не превращали нас в «фон Браунов», которых не волнует, «куда упадут ракеты».
Признавая свои прошлые ошибки, Тегмарк отметил: в книге «Жизнь 3.0» он недооценил скорость приближения к AGI и не ожидал, что мировые лидеры позволят компаниям действовать в такой секретности.
