# ИИ и будущее человечества: на пороге сверхразума Источник: https://www.youtube.com/watch?v=IHc5Zt7qT6o Канал: World Science Festival Опубликовано: 09.03.2019 --- ## ИИ и будущее человечества: на пороге сверхразума [[JUMP:00:00]] Человечество стоит перед лицом масштабной технологической трансформации, сравнимой по значимости с промышленной революцией, но затрагивающей саму суть нашего интеллекта. Ведущие эксперты в области нейронаук и искусственного интеллекта собрались на дискуссию в рамках *World Science Festival*, чтобы обсудить, перейдет ли ИИ от узкоспециализированных задач к созданию полноценного сверхразума и какими этическими вызовами это обернется для человеческой расы. В беседе приняли участие Сьюзан Шнайдер (Университет Коннектикута), Ян Лекун (Facebook, NYU), Питер Це (Дартмутский колледж) и Макс Тегмарк (MIT, Future of Life Institute). ## От логических правил к машинному обучению: как эволюционировал ИИ [[JUMP:00:38]] Первые 50 лет развития ИИ базировались на жестких правилах, логике и программировании, где компьютер строго следовал заданным алгоритмам. Однако произошел фундаментальный сдвиг в сторону машинного обучения, где интеллект формируется через холистический анализ данных. Основные подходы к обучению машин: * **Обучение с учителем (Supervised Learning):** Машине показывают миллионы примеров (например, изображений кошек и собак), и она корректирует внутренние параметры, чтобы минимизировать ошибки. Этот метод лежит в основе большинства современных систем распознавания речи, перевода и классификации текста. * **Обучение с подкреплением (Reinforcement Learning):** Машина обучается методом проб и ошибок, получая «награду» за правильные действия и «наказание» за неверные. Этот подход позволил ИИ достичь сверхчеловеческих результатов в играх, таких как *Go*, *шахматы* и *Atari*. * **Глубинное обучение (Deep Learning):** Использование многослойных нейронных сетей, отдаленно вдохновленных структурой человеческого мозга, где обучение происходит через изменение весов (эффективности) связей между нейронами. По словам Яна Лекуна, текущие системы ИИ по-прежнему крайне ограничены и тренируются для решения узких задач. Одной из главных проблем остается неспособность ИИ учиться лишь на наблюдении, как это делают младенцы, которые к 8 месяцам жизни формируют модель «интуитивной физики» и понимают такие концепции, как постоянство объектов. ## Проблема «как если бы»: творчество и эмоции машин [[JUMP:15:52]] Одной из самых дискуссионных тем стала способность машин к творчеству. Хотя существуют системы, создающие музыку, дизайн и изображения, эксперты сошлись во мнении, что это скорее «творчество „как если бы“» (*as-if creativity*). Аргументы сторон: 1. **Макс Тегмарк** критикует позицию, согласно которой интеллект и творчество возможны только в биологических организмах, называя это «углеродным шовинизмом». Он считает, что творчество — это вид сложной обработки информации, и машины рано или поздно превзойдут человека. 2. **Питер Це** утверждает, что истинное творчество требует «ментальных операций» и работы с абстракциями, которые пока недоступны системам с обучением на примерах. 3. **Ян Лекун** подчеркивает, что искусство — это коммуникация эмоций. Если машина не обладает чувствами, она может вызвать эмоцию у зрителя, но не способна *транслировать* собственную. ## Путь к Искусственному Общему Интеллекту (AGI) [[JUMP:25:27]] Искусственный общий интеллект (AGI) — это способность машины выполнять любую интеллектуальную задачу на уровне человека. Макс Тегмарк описывает это как ситуацию, когда уровень «воды» в море интеллекта поднимется и затопит всё «сушу» человеческих способностей. * **Риски:** Главный риск заключается не в «терминаторском» желании машин захватить мир, а в том, что цели сверхразума могут быть не согласованы с человеческими. * **Преимущества:** Если AGI удастся создать, он сможет решить такие проблемы, как бедность, болезни и изменение климата, в считанные мгновения. ## Природа сознания: Б.С. или научный вызов? [[JUMP:32:04]] Вопрос сознания часто отбрасывается учеными как философская спекуляция, но участники панели настаивают на необходимости серьезного изучения этой темы. * **Сьюзан Шнайдер** определяет сознание как «субъективное качество опыта» — то, каково это, быть «тобой» изнутри. * **Питер Це** связывает сознание с вниманием и планированием: «сознание нужно для чего-то» — оно помогает нам ориентироваться в мире и представлять невидимые причины событий. * **Ян Лекун** выдвигает гипотезу, что сознание — побочный продукт ограниченности нашего мозга, вынужденного фокусироваться только на одном деле за раз. Эксперты подчеркивают важность разделения искусственного интеллекта и искусственного сознания: можно создать систему, которая крайне опасна или эффективна, даже если она не обладает субъективным опытом. Однако для морально-этических вопросов сознание критически важно — например, чтобы не допустить «цифрового геноцида» при массовом запуске и отключении симуляций. ## Будущее: сотрудничество, этика и слияние с ИИ [[JUMP:54:27]] Подводя итог, эксперты выделили три ключевых вектора развития: 1. **Исследования безопасности (AI Safety):** Инвестиции вwisdom (мудрость) должны расти параллельно с инвестициями в производительность ИИ. Важно научить машины «понимать наши цели», а не просто выполнять инструкции. 2. **Биологические уроки:** Ученые предлагают изучать не только работу мозга человека, но и другие эволюционные эксперименты, например, мозг осьминога, как пример альтернативной архитектуры интеллекта. 3. **Слияние с ИИ:** Сьюзан Шнайдер отметила необходимость общественной дискуссии о возможности киборгизации людей — встраивания ИИ в мозг, чтобы сохранить конкурентоспособность в эпоху сверхразумных машин. Ян Лекун подытожил, что, вероятно, нас ждет долгий путь к созданию машин с интеллектом уровня кошки или крысы, что даст нам время научиться выстраивать этические нормы взаимодействия.