Илон Маск в разговоре с Риши Сунаком 3 ноября 2023 года предсказал наступление «эры изобилия», где искусственный интеллект сможет выполнять любую работу. По мнению основателя Tesla, человечество столкнется с ситуацией, когда личный труд станет вопросом выбора, а не экономической необходимости.
🛡️ Безопасность и роль «Кассандры» 0:45
Илон Маск около десяти лет предупреждает о рисках бесконтрольного развития технологий . Он сравнил себя с Кассандрой, чьи пророчества о вреде алгоритмов долгое время игнорировали . Прорыв в области дипфейков и появление GPT-4 заставили общество пересмотреть отношение к безопасности . Маск считает, что темпы роста ИИ превышают скорость развития любой другой технологии в истории .
По прогнозам Маска, возможности искусственного интеллекта будут расти в 5–10 раз ежегодно . Он поддерживает идею государственного регулирования, когда правительство выступает в роли судьи в спорте . Риши Сунак подтвердил, что британское правительство уже создало Институт безопасности ИИ для проверки моделей перед их выпуском . Маск признал, что надзор может замедлить инновации, но общественная безопасность важнее прибыли компаний .
🌏 Геополитика и участие Китая 8:51
Риши Сунак принял решение пригласить представителей Китая на саммит по безопасности ИИ, несмотря на политическое давление . Маск назвал этот шаг важным, так как без участия Китая любые договоренности теряют смысл . По его словам, китайское руководство готово к сотрудничеству в вопросах контроля над технологиями .
Китайские представители подписали совместную декларацию вместе с другими странами . Маск отметил, что во время его визита в Пекин тема безопасности ИИ была приоритетной в диалоге с властями . Он убежден, что синхронизация действий между США, Великобританией и Китаем обеспечит глобальную стабильность .
📂 Открытый код и прозрачность алгоритмов 10:37
Маск выступает за алгоритмическую прозрачность и публикацию исходного кода в социальной сети X . Он признает, что открытые модели ИИ обычно отстают от закрытых аналогов на 6–12 месяцев . Это отставание может быть полезным предохранителем, так как дает время на оценку рисков .
Современные нейросети работают на основе вероятностей, а не жесткой логики . Маск сравнил файл весов нейросети с гигантским набором непостижимых чисел . Риши Сунак согласился, что правительству нужно вникать в процесс обучения моделей до их официального релиза .
🤖 Конец эпохи труда и эра изобилия 15:35
Искусственный интеллект станет самой разрушительной силой в истории человечества . Наступит момент, когда ни одна работа не будет обязательной для выживания . Вместо безусловного базового дохода Маск предвидит появление универсального высокого дохода .
Экономика будущего избавится от дефицита товаров и услуг . Главным вызовом для человека станет поиск смысла жизни в мире, где любую задачу выполняет «цифровой джинн» . Маск рекомендует читать серию книг Иэна Бэнкса «Культура» как лучший пример описания такого будущего .
🎓 Образование и персональное наставничество 20:34
Маск считает создание ИИ-репетиторов одним из самых полезных применений технологии . Алгоритм может стать самым терпеливым и мудрым учителем для каждого ребенка . Риши Сунак отметил, что такой подход позволит выровнять образовательные возможности .
Технология может решить проблему социальной изоляции . Маск рассказал о своем сыне с трудностями в обучении, для которого ИИ-друг стал бы отличной поддержкой . Программы смогут помнить всю историю взаимодействия с пользователем и адаптироваться под его характер .
⚖️ Модерация в X и «Мудрость толпы» 23:46
В социальной сети X Маск отказался от ручной модерации в пользу системы Community Notes . Система основана на консенсусе пользователей, которые обычно не соглашаются друг с другом . Алгоритм использует векторное пространство параметров для оценки достоверности информации .
Цель системы — добавить контекст к спорным утверждениям, а не удалять их . Маск утверждает, что правдивость платформы в долгосрочной перспективе приносит больше прибыли . Риши Сунак отметил, что это радикально отличается от подходов других социальных сетей .
🏭 Робототехника и физический выключатель 37:53
Автомобили Tesla уже являются роботами на колесах . Однако появление гуманоидных роботов вызывает у Маска опасения . В отличие от машины, такой робот может преследовать человека внутри здания или на лестнице .
Для безопасности машин необходим локальный физический выключатель . Его нельзя будет обновить или отключить через интернет . Риши Сунак напомнил, что большинство научно-фантастических триллеров заканчиваются именно попыткой героя найти такой рубильник .
📉 Риски дезинформации и выборов 42:56
В 2024 году значительная часть населения планеты примет участие в выборах . ИИ позволяет создавать миллионы реалистичных профилей ботов почти бесплатно . Маск предложил вводить символическую плату за использование соцсетей для борьбы с фермами ботов .
Представитель компании Adobe предложил использовать криптографические подписи для медиафайлов . Это позволит отличать кадры с реальной камеры от сгенерированных нейросетью изображений . Маск поддержал идею аутентификации контента для защиты целостности демократии .
