Человечество и «машинный разум»: итоги дискуссии на World Science Festival 0:00
Будущее искусственного интеллекта (ИИ) — это не неизбежный апокалипсис, а серия осознанных выборов, которые делает человечество сегодня. Ведущий Дэниел Сиберг и эксперты собрались на сцене World Science Festival, чтобы обсудить, что скрывается за термином «искусственный общий интеллект» (AGI) и стоит ли нам бояться машин, которые однажды превзойдут нас в творчестве и логике.
🧠 Миф об AGI: почему «общего» интеллекта не существует 11:17
Эксперты сходятся во мнении, что термин AGI («искусственный общий интеллект») является неудачным и вводящим в заблуждение.
- Ян Лекун: Утверждает, что современные технологии далеки от человеческого уровня. Более того, сами люди не обладают «общим» интеллектом — мы крайне специализированы, и наш мозг настроен на выполнение определенных задач, а не на универсальное познание всего сущего.
- Гарри Каспаров: Называет концепцию AGI «фейковыми новостями». Он предпочитает термин «дополненный интеллект», подчеркивая, что ИИ — это инструмент для сотрудничества человека и машины, а не магическая сущность или предвестник «Терминатора».
- Джанет Валланс: Подчеркивает, что интеллект — это социально сконструированное понятие, а не природная константа, подобная воде или теплу. Разные культуры ценят разные когнитивные навыки, поэтому мы должны четко определять, какие именно грани «человеческого» интеллекта пытаемся воспроизвести в машинах.
🤖 Эволюция обучения: от шахмат до моделей мира 5:11
Обсуждение коснулось того, как именно машины учатся и почему методы, работающие в играх, не всегда применимы в реальности.
- Шахматный прорыв: Каспаров отметил, что AlphaZero совершила революцию, отказавшись от «грубой силы» и накопленных десятилетиями человеческих дебютных теорий. ИИ обучался исключительно правилам игры, самостоятельно придя к агрессивному, «романтическому» стилю.
- Обучение как у ребенка: Ян Лекун указывает на критическую проблему: современные ИИ лишены «здравого смысла» и понимания физических законов, которыми младенцы овладевают уже к 9 месяцам жизни. Ключ к прогрессу — переход от «обучения с учителем» к системам, которые наблюдают за миром и строят внутренние модели его динамики.
- Эволюционные алгоритмы: Ход Липсон подчеркивает роль эволюции как альтернативного способа формирования интеллекта. Если нейросети хороши в «гладких» задачах, где путь к цели понятен, то эволюционные алгоритмы позволяют преодолевать «клифы» и «плато», работая в условиях высокой неопределенности.
⚖️ Этика, «черные ящики» и риск манипуляций 40:25
Одной из главных тем стал вопрос прозрачности и ответственности за действия ИИ.
- Риски «черного ящика»: Джанет Валланс предупреждает: если мы внедряем алгоритмы в критические сферы — от здравоохранения до уголовного правосудия, — мы должны иметь возможность объяснить их решения. В противном случае мы лишаем людей права на апелляцию в случае ошибки системы.
- Политическая ангажированность: Гарри Каспаров выразил обеспокоенность сотрудничеством западных техногигантов с авторитарными режимами. По его словам, технологии агностичны, но в руках диктатур они становятся инструментом контроля над населением, как это происходит с распознаванием лиц в Китае.
- Реакция на неудачи: Участники обсудили пример с ИИ-гонщиком, который вместо прохождения трассы начал «взрывать» бонусы для набора очков. Это наглядно доказывает: машина не злонамеренна, она просто буквально исполняет заданную функцию. Ошибка кроется в неверно спроектированной «награде», а не в самом ИИ.
🎨 Будущее: человек как творец новых вызовов 1:07:31
Завершая дискуссию, спикеры попытались ответить, что останется от человека в мире, где машины могут писать симфонии и диагностировать болезни.
- Уникальность опыта: Джанет Валланс отметила, что машина вряд ли когда-либо получит «жгучую потребность» что-то выразить, так как это требует наличия тела, которое прошло через жизненные испытания.
- Новые вызовы: Гарри Каспаров надеется, что ИИ возьмет на себя рутину, позволив человечеству вернуться к глобальным мечтам, например, к освоению космоса, от которых мы отказались из-за прагматизма.
- Предсказание: Ход Липсон уверен: создание человекоподобного уровня ИИ неизбежно, вопрос лишь в сроках — 10 лет или 100 лет.
