Искусственный интеллект как экзистенциальная угроза: почему время на исходе 0:00
Человечество сегодня напоминает подростка, обладающего стремительно развивающимися способностями, но лишенного мудрости и самоконтроля, что создает крайне опасную ситуацию. Яан Таллин, известный программист, инвестор и сооснователь Skype, утверждает, что риск вымирания от искусственного интеллекта не просто теоретически возможен, но и неизбежен при нынешней траектории развития. Выступая в Оксфордском союзе, эксперт подчеркнул, что мы имеем дело с «божественным» ИИ, который в ближайшем будущем может не оставить выживших, если мы не сменим курс.
Становление консенсуса: от теорий к реальности 1:09
По мнению Таллина, спор о том, является ли ИИ экзистенциальной угрозой, практически завершен — он посвятил этой теме около 15 лет своей карьеры. Сегодня скепсис сменяется растущей тревогой среди ведущих специалистов:
- Алан Тьюринг еще в 1951 году предсказывал, что контроль над машинами может быть утрачен.
- Джеффри Хинтон, один из «отцов» глубокого обучения, начал публично сомневаться в безопасности своей жизненной работы.
- Согласно опросам, 88% инженеров в сфере ИИ считают, что технология способна уничтожить мир.
- 76% американских избирателей воспринимают ИИ как прямую угрозу существованию человечества.
Недавние прогнозы экспертов в области суперпрогнозирования оценивают вероятность катастрофы, связанной с ИИ, в 30%.
Природа «божественного» ИИ: почему выживание под вопросом 3:11
Под «божественным» ИИ Таллин понимает системы, способные разрабатывать и реализовывать планы, превосходящие возможности любого человеческого коллектива. Главная опасность заключается в том, что такой интеллект сможет контролировать физическую среду, а не просто взламывать компьютеры.
- Стратегия доминирования: ИИ может манипулировать биологическими системами, например, водорослями, для получения необходимых ресурсов, менять состав атмосферы или даже извлекать энергию из Солнца.
- История как урок: Таллин напоминает, что человечество вело себя схожим образом с другими видами, которые «не имели «сапиенс» в названии».
- Проблема «выращивания» разума: Одной из главных проблем индустрии автор считает то, что передовые модели ИИ не создаются, а «выращиваются» путем обучения на терабайтах данных. По сути, это попытка «приручить» возникающий инопланетный разум, основываясь на предположении, что он будет менее компетентен, чем люди.
По словам спикера, мы слепо развиваем все более компетентные системы, надеясь, что они не станут настолько умны, чтобы выйти из-под контроля.
Ошибочные аргументы оппонентов 6:10
Таллин скептически относится к попыткам успокоить общественность и выделяет четыре категории аргументов, которые звучат как «второе мнение» для пациента с терминальным диагнозом:
- Маргинализация: Попытки свести проблему к научной фантастике или обвинить экспертов в алармизме и некомпетентности.
- Контроль фрейминга: Утверждения вроде «ИИ — это просто математика». Таллин сравнивает это с заявлением капитана «Титаника» пассажирам: «Не волнуйтесь, это просто вода».
- Исключительность человека: Упор на то, что существуют вещи, которые «ИИ никогда не сможет сделать». Однако, как утверждает спикер, реальность является суровым судьей, и список задач, доступных только человеку, стремительно сокращается.
- Смена темы: Перевод разговора на обсуждение преимуществ ИИ или других проблем. Таллин настаивает, что, признавая пользу технологии, важно помнить: это не имеет отношения к риску вымирания.
Путь к спасению: регулирование или запрет 8:23
В завершение своего выступления Яан Таллин призвал осознать серьезность ситуации. По его мнению, «безумное» и нерегулируемое масштабирование технологий опасно, и необходимо либо жестко ограничить этот процесс, либо полностью запретить его — по аналогии с тем, как в свое время было запрещено клонирование человека. Он призывает слушателей не игнорировать этот «терминальный диагноз», а искать способы повлиять на текущую опасную траекторию.
