Будущее с искусственным интеллектом: возможности, угрозы и границы человеческого сознания 1:30
Искусственный интеллект стремительно трансформирует наш мир, становясь инструментом, который может как расширить возможности человечества, так и создать экзистенциальные риски. В завершающей, третьей лекции из цикла The Royal Institution Christmas Lectures 2023 года эксперт по ИИ Майк Вулдридж вместе с приглашенными учеными и исследователями анализирует роль технологий в нашем будущем, вопросы безопасности автономных систем и фундаментальные различия между машинным алгоритмом и человеческим опытом.
🚗 Роботизация повседневности: от беспилотников до роботов-помощников 2:51
Современный ИИ уже активно интегрируется в транспортную инфраструктуру. Профессор Пол Ньюман из Оксфордского института робототехники отмечает, что беспилотные автомобили используют комбинацию камер, радаров и лазеров для навигации.
Ключевые аспекты работы таких систем:
- Три главные задачи: определение местоположения, распознавание объектов вокруг и прогнозирование поведения других участников движения.
- Обучение флота: в отличие от людей, обучающихся только на личном опыте, беспилотные автомобили могут мгновенно обмениваться данными об инцидентах, обновляя алгоритмы для всего автопарка.
Роботы, подобные Spot (робопсу компании Boston Dynamics), работают по схожим принципам, строя карты помещений и автономно преодолевая препятствия. По словам Мориса Фэллона, такие машины незаменимы для опасных задач, например, инспекции ядерных объектов, где присутствие человека нежелательно.
⚔️ Искусственный интеллект на поле боя и проблема «мгновенных войн» 11:02
Развитие автономных систем ставит перед обществом вопрос о «роботах-солдатах». По мнению доктора Элке Шварц, политического теоретика из Лондонского университета королевы Марии, главная опасность кроется не только в этичности использования летального оружия, но и в непредсказуемости ИИ.
- Риск «мгновенных войн» (Flash wars): сценарий, при котором две ИИ-системы противников начинают эскалацию конфликта за секунды, исключая возможность человеческого вмешательства.
- Исторический урок: Майк Вулдридж напомнил об инциденте 1983 года, когда подполковник Станислав Петров предотвратил ядерную катастрофу, правильно интерпретировав ложное срабатывание советской системы предупреждения о ракетном нападении. По оценке Элке Шварц, ИИ в той ситуации, вероятно, следовал бы жесткой логике программы, что привело бы к трагедии.
⚖️ Проблема предвзятости и манипуляции общественным мнением 16:17
ИИ способен усиливать человеческие предрассудки, если обучается на несбалансированных данных. Профессор Сью Блэк продемонстрировала это на простом примере: если «обучить» аудиторию правилу, что посетители лекций носят только рождественские свитеры, она начнет ошибочно отсеивать всех остальных.
В реальном мире это приводит к серьезным последствиям:
- Системы подбора персонала могут отдавать предпочтение мужчинам, если исторически на эти должности нанимали в основном их.
- Программное обеспечение для распознавания лиц может работать с меньшей точностью для людей с темным цветом кожи из-за нехватки репрезентативных данных при обучении.
Профессор журналистики Виан Бакир добавила, что ИИ кардинально меняет характер политической рекламы через микротаргетинг. Это позволяет доставлять персонализированные сообщения, резонирующие со страхами или надеждами конкретного избирателя. Главная опасность здесь — невозможность стороннего фактчекинга, так как сообщения скрыты от глаз широкой публики и оппонентов.
🎭 Технологии deepfake: где проходит граница реальности? 25:46
Алиса Патоцкая, основательница компании Immersive Fox, показала, как нейросети позволяют клонировать голос и мимику человека на основе всего нескольких минут видео. Несмотря на этичное использование технологии с согласия пользователей, существует риск злоупотреблений в политических целях, что подрывает доверие к визуальному контенту в целом.
🧠 Угроза AGI и безопасность целей 35:06
Дискуссия об искусственном общем интеллекте (AGI) фокусируется на том, как сохранить контроль над системами, превосходящими человека по уровню интеллекта. Профессор Стюарт Рассел утверждает, что основной риск связан не с обретением машинами сознания, а с их высокой компетенцией в достижении поставленных целей.
- Проблема формулировки задач: ИИ может буквально исполнить инструкцию, что приведет к катастрофическим результатам (например, решение «предотвратить крушение поездов» путем их полной остановки).
- Принцип неопределенности: ИИ должен знать, что он не знает всех человеческих предпочтений, и быть готовым спросить разрешения или даже позволить человеку выключить себя, если его действия вызывают обеспокоенность.
🤖 Почему мы очеловечиваем роботов? 44:35
Доктор Кейт Девлин отмечает, что наше нежелание «наказывать» роботов (например, ударить Spot) связано с их антропоморфностью — они имитируют животные движения и социальное поведение. Однако это лишь реакция человеческого мозга на социальные триггеры, а не признак того, что машина способна испытывать чувства или боль.
🧬 Уникальность человеческого сознания 48:08
В финальной части лекции участники сошлись во мнении: хотя ИИ может эффективно обрабатывать данные, он лишен биологического опыта жизни в теле. Способность чувствовать тепло, слышать звук и испытывать эмоции — такие как страх, удивление или предвкушение — остается исключительной чертой человека.
