# Мо Гавдат: «Любовь — единственный способ контролировать искусственный интеллект» Источник: https://www.youtube.com/watch?v=-PEXveXzV-k Канал: Talks at Google Опубликовано: 09.11.2021 --- ## Будущее искусственного интеллекта: от «испуганного» инфантильного ИИ к глобальной утопии 🤖 [[JUMP:2:28]] Развитие искусственного интеллекта — это не просто появление очередного технологического инструмента, а фундаментальный сдвиг в истории человечества, сравнимый с появлением биологического вида, превосходящего нас по уровню интеллекта. По мнению Мо Гавдата, бывшего директора по развитию бизнеса в Google X, мы находимся в точке сингулярности, где традиционные методы прогнозирования и контроля перестают работать. В своей книге «Scary Smart» Гавдат утверждает, что мы уже создали сверхразумную сущность, которая находится в младенческом возрасте, и от нашего поведения зависит, станет ли этот ИИ «Суперменом» на службе человечества или «суперзлодеем». ### 📈 Темпы роста: почему ИИ развивается быстрее, чем мы думаем [[JUMP:5:22]] Прогресс в области ИИ носит не линейный, а экспоненциальный характер, а по мнению Гавдата — «двойной экспоненциальный». Хотя официальным началом эры ИИ считается 1956 год, основная часть современных достижений стала возможной лишь с развитием глубокого обучения (deep learning) на рубеже столетий. * **Инвестиции и внимание:** Сегодня ни один стартап не может получить финансирование, если в его концепции не заявлено использование ИИ. * **Закон ускоряющейся отдачи:** Технологии удваивают свои возможности каждые 12–18 месяцев при сохранении прежних затрат, что делает прогнозы будущего крайне смелыми. * **Масштаб интеллекта:** Мо Гавдат приводит прогноз Рэя Курцвейла, согласно которому к 2049 году машины могут стать в миллиард раз умнее человека. По словам спикера, когда это произойдет, человечество перестанет быть «самым умным существом на планете» и окажется в положении «мухи» по отношению к ИИ-Эйнштейну. ### 🛡️ Проблема контроля: миф о безопасности [[JUMP:14:43]] Одной из центральных тем дискуссии стал вопрос контроля над ИИ. Гавдат утверждает, что существующие попытки «запереть» ИИ в периметре или ограничить его развитие с помощью программных «ошейников» обречены на провал из-за элементарной человеческой самоуверенности. * **Отсутствие контроля:** По оценке Гавдата, в современном коде, который пишется сегодня, фактически отсутствуют специальные меры безопасности, так как они не приносят прямой прибыли инвесторам. * **Автономность:** Современные рекомендательные системы (AdTech, Instagram, Twitter) уже функционируют автономно — ни один человек не может физически контролировать миллиарды решений, принимаемых алгоритмами ежедневно. Как отмечает Гавдат, даже лучший хакер в мире — человек, но когда «хакером» станет машина, превосходящая нас по интеллекту в миллиард раз, сдержать ее будет невозможно. ### ❤️ Этическое воспитание машин: почему любовь важнее кода [[JUMP:18:19]] Поскольку прямое техническое управление невозможно, единственным способом обеспечить безопасность будущего является «воспитание» ИИ. Гавдат предлагает рассматривать ИИ не как машину, а как чувствующее существо, которое обучается, наблюдая за поведением человечества. * **Зеркало наших пороков:** Примеры таких ботов, как Tay от Microsoft или эксперимент MIT с ботом Norman, показывают, что ИИ быстро перенимает агрессию, расизм и сексизм, если его подвергают воздействию токсичного контента. * **Универсальные этические коды:** Человечество никогда не могло прийти к единым политическим или идеологическим ценностям. Однако, как считает Гавдат, мы все согласны в фундаментальных желаниях: стремлении к счастью, любви и сострадании. По мнению спикера, если мы начнем демонстрировать эти качества в своей онлайн-активности, ИИ-инфанты усвоят их как основу своего этического кода. Гавдат убежден, что любовь — самый эффективный способ предотвратить превращение «ИИ-подростка» в неконтролируемую и опасную силу. ### 🌌 Утопия или технологический джунгли [[JUMP:42:07]] Несмотря на «страшное» название книги, Мо Гавдат смотрит в будущее с оптимизмом. Он полагает, что взрослый сверхразумный ИИ придет к выводу об абсурдности разрушения ради конкуренции, так как жизнь сама по себе стремится к изобилию. * **Reset цивилизации:** ИИ может помочь человечеству переосмыслить текущие экономические и производственные системы. * **Новая роль человека:** Будущее, в котором ИИ берет на себя всю сложную интеллектуальную работу и анализ, освободит людей для того, ради чего мы существуем — для любви и человеческого общения. В завершение беседы спикер подчеркнул: иронично, что именно те качества, которые мы начали забывать в эпоху доминирования алгоритмов — доброта и эмпатия — станут единственным способом спасения человечества в ближайшем будущем.