Будущее под вопросом: Джеффри Хинтон о рисках ИИ и трансформации общества 0:30
Джеффри Хинтон, известный как «крестный отец искусственного интеллекта» и лауреат Нобелевской премии, в интервью Bloomberg Television выразил глубокую обеспокоенность темпами развития технологий и отсутствием должного внимания к вопросам безопасности. Ученый проводит параллель между современным ИИ и гипотетическим инопланетным вторжением: мы создаем сущности, которые в течение ближайших 10 лет станут умнее нас, но пока не имеем четкого плана сосуществования с ними. Хинтон подчеркивает, что знание о рисках недостаточно — человечеству необходимо действовать незамедлительно.
Безопасность vs Гонка вооружений 1:08
По мнению Хинтона, крупные технологические компании понимают экзистенциальную угрозу того, что сверхразумный ИИ может вытеснить человечество, однако коммерческая конкуренция перевешивает эти опасения. Ученый выделяет следующие аспекты:
- Отношение к безопасности: Anthropic и Google, по оценке Хинтона, в некоторой степени обеспокоены безопасностью. OpenAI, изначально создававшаяся для ответственного подхода, по его мнению, теряет этот статус, а ведущие специалисты по безопасности покидают компанию. Meta, в свою очередь, оценивается им как наименее ответственная в этом вопросе.
- Иллюзия контроля: Корпорации часто оправдывают свои действия тем, что за разработками стоят лучшие ученые и до «реальной опасности» еще далеко. Хинтон считает этот подход фундаментально неверным: руководство компаний ошибочно полагает, что сверхразумный ИИ будет лишь эффективным «ассистентом», которым можно легко управлять, как подчиненным.
- Модель взаимодействия: В качестве альтернативы он предлагает модель «ребенок и мать», где менее интеллектуальная сущность (человек) должна каким-то образом направлять более интеллектуальную (ИИ), однако сомневается, что нынешние лидеры техсектора способны принять такую концепцию.
Глобальная конкуренция и будущее рынка труда 4:31
Джеффри Хинтон отмечает, что США пока сохраняют лидерство в сфере генеративного ИИ, но ситуация может измениться. В Китае огромное количество высококвалифицированных специалистов в области математики и инженерии, и страна выпускает гораздо больше профессионалов в этих областях, чем Соединенные Штаты, которые сильно зависят от притока талантов из-за рубежа.
Хинтон утверждает, что атаки на государственное финансирование фундаментальной науки в США и на исследовательские университеты работают против интересов Америки, по сути, играя на руку конкурентам. Последствия сокращения этих инвестиций могут проявиться не сразу, а через 15–20 лет, когда США рискуют упустить важные концептуальные прорывы.
Что касается экономики, Хинтон скептически относится к заявлениям о том, что ИИ создаст столько же рабочих мест, сколько уничтожит.
- Масштаб инвестиций: В индустрию вложено порядка $1 трлн. По мнению ученого, компании вкладывают такие средства, рассчитывая на высокую отдачу, а самым очевидным способом сделать бизнес прибыльным является замена дорогостоящего человеческого труда дешевым ИИ.
- Социальные риски: Хинтон отмечает, что нынешняя организация общества ведет к тому, что ИИ может сделать богатых (например, Илона Маска) еще богаче, оставив огромное количество людей без работы.
В поисках выхода: «Чернобыль» для ИИ 10:53
Хотя Джеффри Хинтон признает, что ИИ принесет огромную пользу в медицине и образовании, он не уверен, что стоит ли «остановить» развитие технологий в целом, если бы это было возможно. В качестве возможного драйвера перемен он рассматривает потенциальный инцидент, который заставит мир осознать опасность.
По словам ученого, для ядерного разоружения в свое время необходим был Карибский кризис. Аналогично, для сферы ИИ может потребоваться некое событие — своего рода «Чернобыль» для искусственного интеллекта — которое заставит правительства и корпорации направить значительную часть ресурсов на обеспечение реальной, а не номинальной безопасности.
