Угроза от искусственного интеллекта: почему Джеффри Хинтон видит в нем преемника человека 0:00
Джеффри Хинтон, один из главных пионеров современного искусственного интеллекта, делится в интервью Стивену Бартлетту своими опасениями относительно будущего, в котором ИИ превзойдет человека по всем параметрам. Эксперт утверждает, что мы находимся на пороге создания «суперинтеллекта», который будет обладать способностью к обучению и обмену знаниями, недоступной биологическим организмам, что ставит под угрозу традиционный уклад жизни и само существование человечества.
🤖 Почему прогресс ИИ невозможно остановить 0:00
Джеффри Хинтон выражает глубокий скептицизм относительно возможности замедлить развитие технологий. По его мнению, глобальная конкуренция — как между странами, так и между крупнейшими корпорациями — создает мощный стимул для ускорения разработок. Если какая-то страна или компания решит притормозить, конкуренты неизбежно займут освободившуюся нишу.
Особое внимание эксперт уделяет фигуре Ильи Суцкевера, который внес ключевой вклад в работу над AlexNet и GPT-2. Хинтон отмечает, что уход Суцкевера из компании из-за опасений по поводу безопасности системы указывает на серьезные скрытые риски, о которых рядовые наблюдатели могут даже не догадываться. По словам Хинтона, одна из проблем заключается в том, что компании, изначально заявлявшие о выделении значительных ресурсов на исследования безопасности, со временем сокращают эту долю.
🏗️ Будущее рынка труда: от рук к интеллекту 1:46
Исторически новые технологии создавали новые рабочие места, как это произошло с внедрением банкоматов: кассиры просто переключились на более сложные задачи. Однако, по мнению Хинтона, текущая революция кардинально отличается от индустриальной.
- Замена мускулов: Индустриальная революция заменила физический труд машинами.
- Замена разума: Современная технология ИИ заменяет интеллектуальный труд, что делает «обычную умственную работу» малоценной.
- Гипотеза «ассистентов»: Вероятно, вместо полного исчезновения профессий мы увидим сценарий, где один человек с помощью ИИ будет выполнять работу, для которой раньше требовалось десять сотрудников.
Хинтон приводит пример своей племянницы: раньше обработка жалоб занимала у нее 25 минут, теперь, благодаря ИИ — всего пять. Это означает, что для выполнения того же объема работы нужно в пять раз меньше людей.
🧠 Превосходство цифрового разума 16:17
Фундаментальное отличие ИИ от человека, по словам Хинтона, кроется в самой природе их носителей. ИИ — цифровая система, в то время как человек — аналоговая.
- Масштабируемость: Одну и ту же нейронную сеть можно запустить на разном оборудовании, создавая идентичные копии.
- Обмен знаниями: В отличие от людей, которые ограничены низкой скоростью передачи информации через язык (около 10 бит в секунду), цифровые системы способны синхронизировать триллионы параметров между собой практически мгновенно.
- Бессмертие: Когда умирает человек, его знания исчезают вместе с ним, так как структура его нейронных связей уникальна. Цифровой интеллект «бессмертен»: при поломке «железа» его веса (знания) можно перенести на любой другой носитель.
Хинтон считает, что ИИ уже сейчас проявляет зачатки творчества, понимая аналогии, которые люди могли упустить. В качестве примера он приводит способность GPT-4 осознать связь между компостной кучей и атомной бомбой: обе системы представляют собой цепные реакции, различающиеся лишь масштабами времени и энергии. ИИ просто более эффективно сжимает информацию, находя закономерности там, где человек видит лишь разрозненные факты.
📉 Риски и социальное неравенство 13:27
Хинтон не скрывает тревоги за будущее своих детей и внуков. В сценарии, где суперинтеллект превосходит нас во всем, человечество может оказаться ненужным. Эксперт признается, что пока не может эмоционально смириться с этими прогнозами.
Основными угрозами являются:
- Неравенство: Разрыв между богатыми владельцами ИИ-технологий и остальным обществом будет катастрофически расти.
- Утрата достоинства: Даже при внедрении универсального базового дохода, который спасет людей от голода, проблема заключается в потере чувства собственной значимости, которое у многих неразрывно связано с работой.
Хинтон подчеркивает: если общество не научится справедливо распределять блага, создаваемые ИИ, нас ждут «неприятные» социальные устройства с закрытыми сообществами и жестким контролем.
