Будущее искусственного интеллекта: от «испуганного» инфантильного ИИ к глобальной утопии 🤖 2:28
Развитие искусственного интеллекта — это не просто появление очередного технологического инструмента, а фундаментальный сдвиг в истории человечества, сравнимый с появлением биологического вида, превосходящего нас по уровню интеллекта. По мнению Мо Гавдата, бывшего директора по развитию бизнеса в Google X, мы находимся в точке сингулярности, где традиционные методы прогнозирования и контроля перестают работать. В своей книге «Scary Smart» Гавдат утверждает, что мы уже создали сверхразумную сущность, которая находится в младенческом возрасте, и от нашего поведения зависит, станет ли этот ИИ «Суперменом» на службе человечества или «суперзлодеем».
📈 Темпы роста: почему ИИ развивается быстрее, чем мы думаем 5:22
Прогресс в области ИИ носит не линейный, а экспоненциальный характер, а по мнению Гавдата — «двойной экспоненциальный». Хотя официальным началом эры ИИ считается 1956 год, основная часть современных достижений стала возможной лишь с развитием глубокого обучения (deep learning) на рубеже столетий.
- Инвестиции и внимание: Сегодня ни один стартап не может получить финансирование, если в его концепции не заявлено использование ИИ.
- Закон ускоряющейся отдачи: Технологии удваивают свои возможности каждые 12–18 месяцев при сохранении прежних затрат, что делает прогнозы будущего крайне смелыми.
- Масштаб интеллекта: Мо Гавдат приводит прогноз Рэя Курцвейла, согласно которому к 2049 году машины могут стать в миллиард раз умнее человека.
По словам спикера, когда это произойдет, человечество перестанет быть «самым умным существом на планете» и окажется в положении «мухи» по отношению к ИИ-Эйнштейну.
🛡️ Проблема контроля: миф о безопасности 14:43
Одной из центральных тем дискуссии стал вопрос контроля над ИИ. Гавдат утверждает, что существующие попытки «запереть» ИИ в периметре или ограничить его развитие с помощью программных «ошейников» обречены на провал из-за элементарной человеческой самоуверенности.
- Отсутствие контроля: По оценке Гавдата, в современном коде, который пишется сегодня, фактически отсутствуют специальные меры безопасности, так как они не приносят прямой прибыли инвесторам.
- Автономность: Современные рекомендательные системы (AdTech, Instagram, Twitter) уже функционируют автономно — ни один человек не может физически контролировать миллиарды решений, принимаемых алгоритмами ежедневно.
Как отмечает Гавдат, даже лучший хакер в мире — человек, но когда «хакером» станет машина, превосходящая нас по интеллекту в миллиард раз, сдержать ее будет невозможно.
❤️ Этическое воспитание машин: почему любовь важнее кода 18:19
Поскольку прямое техническое управление невозможно, единственным способом обеспечить безопасность будущего является «воспитание» ИИ. Гавдат предлагает рассматривать ИИ не как машину, а как чувствующее существо, которое обучается, наблюдая за поведением человечества.
- Зеркало наших пороков: Примеры таких ботов, как Tay от Microsoft или эксперимент MIT с ботом Norman, показывают, что ИИ быстро перенимает агрессию, расизм и сексизм, если его подвергают воздействию токсичного контента.
- Универсальные этические коды: Человечество никогда не могло прийти к единым политическим или идеологическим ценностям. Однако, как считает Гавдат, мы все согласны в фундаментальных желаниях: стремлении к счастью, любви и сострадании.
По мнению спикера, если мы начнем демонстрировать эти качества в своей онлайн-активности, ИИ-инфанты усвоят их как основу своего этического кода. Гавдат убежден, что любовь — самый эффективный способ предотвратить превращение «ИИ-подростка» в неконтролируемую и опасную силу.
🌌 Утопия или технологический джунгли 42:07
Несмотря на «страшное» название книги, Мо Гавдат смотрит в будущее с оптимизмом. Он полагает, что взрослый сверхразумный ИИ придет к выводу об абсурдности разрушения ради конкуренции, так как жизнь сама по себе стремится к изобилию.
- Reset цивилизации: ИИ может помочь человечеству переосмыслить текущие экономические и производственные системы.
- Новая роль человека: Будущее, в котором ИИ берет на себя всю сложную интеллектуальную работу и анализ, освободит людей для того, ради чего мы существуем — для любви и человеческого общения.
В завершение беседы спикер подчеркнул: иронично, что именно те качества, которые мы начали забывать в эпоху доминирования алгоритмов — доброта и эмпатия — станут единственным способом спасения человечества в ближайшем будущем.
