Почему создание ИИ сложнее, чем мы думаем: анализ Мелани Митчелл 0:00
Исследовательница из Института Санта-Фе Мелани Митчелл в своей статье «Why AI is Harder Than We Think» анализирует цикличность развития индустрии искусственного интеллекта. По мнению автора, отрасль регулярно проходит через «ИИ-весны» — периоды оптимизма и масштабных инвестиций — и «ИИ-зимы», сопровождающиеся разочарованием и сокращением финансирования. Ведущий канала Янник Килхер отмечает, что хотя современные прорывы в глубоком обучении впечатляют, разработка систем, обещавших человеческий уровень интеллекта — от автономных автомобилей до домашних роботов, — оказалась значительно сложнее, чем ожидали эксперты.
🌪 Циклы оптимизма и разочарования 0:58
История ИИ с 1950-х годов — это череда завышенных ожиданий. Исследователи склонны экстраполировать краткосрочный прогресс в далекое будущее, что приводит к болезненным падениям.
- 1950-е и 1960-е: Изобретение перцептрона вызвало бум прогнозов. Клод Шеннон ожидал появления роботов, близких к научно-фантастическим, в течение 10–15 лет. Марвин Минский полагал, что проблемы создания ИИ будут решены в течение одного поколения.
- 1980-е: Эра экспертных систем, основанных на жестких правилах, также закончилась разочарованием.
- Современность: Сейчас доминирует парадигма машинного обучения. Глубокое обучение, вышедшее из тени в 2000-х годах благодаря большим данным и вычислительным мощностям, привело к прорывам в распознавании речи, переводе и фолдинге белков.
Янник Килхер подчеркивает: несмотря на то, что понятия «ИИ» и «машинное обучение» стали почти синонимами, это не одно и то же. Оптимизм текущего момента подогревается заявлениями IT-лидеров, таких как Марк Цукерберг, который обещал создание ИИ, превосходящего человеческие способности в зрении, слухе и языке.
⚠️ Четыре ошибки (фалласии) в прогнозах ИИ 13:14
Мелани Митчелл выделяет четыре фундаментальных заблуждения, из-за которых исследователи делают слишком уверенные прогнозы, рискуя спровоцировать очередную «ИИ-зиму».
1. «Первый шаг»: узкий ИИ как часть континуума 15:33
Ошибочное убеждение состоит в том, что прогресс в решении узких задач (как Deep Blue в шахматах или GPT-3 в языке) автоматически означает движение по шкале в сторону Общего Искусственного Интеллекта (AGI). Митчелл сравнивает это с утверждением, что первая обезьяна, залезшая на дерево, уже совершает прогресс в направлении полета на Луну. Килхер, однако, возражает: наличие мощных модулей (например, поиска для стратегий или самообучения для языка) кажется необходимым компонентом для будущего AGI, поэтому такой прогресс нельзя игнорировать.
2. Заблуждение о сложности: «легкое — просто, трудное — сложно» 19:35
Люди склонны проецировать свои трудности на машины. Проблемы, которые сложны для человека (например, игра в го), часто проще автоматизировать, чем «простые» задачи, требующие здравого смысла. Килхер подтверждает: критика того, что компьютер «не может сделать элементарную вещь», часто игнорирует реальную сложность этой задачи для алгоритмов. ИИ до сих пор не обладает человеческим здравым смыслом.
3. Соблазн желаемых мнемоник 21:50
Использование терминов вроде «понимает», «имеет цель» или «думает» при описании ИИ вводит в заблуждение как общество, так и самих разработчиков. Митчелл предлагает называть критические блоки кода нейтрально, например «G-0034», чтобы оценить, действительно ли они реализуют понимание, или это лишь игра слов. Килхер отмечает, что использование антропоморфных терминов (например, заявления DeepMind об Alphago) наделяет машины человеческими стремлениями, которых у них объективно нет. Однако он сомневается, можно ли дать четкое определение «цели» или «понимания», исключающее машины, но включающее человека.
4. Интеллект как функция только мозга 28:14
Фалласия заключается в игнорировании концепции «воплощенного познания» (embodied cognition). Сторонники этой теории утверждают, что интеллект неразрывно связан с телом, восприятием и эмоциями. Митчелл полагает, что попытки просто масштабировать нейронные сети до размера человеческого мозга без учета этого взаимодействия не приведут к успеху. Килхер соглашается, что воплощенный ИИ — перспективное направление, но напоминает, что интеллект остается алгоритмом, реализованным на аппаратном обеспечении, и примеры людей с ограниченными физическими возможностями доказывают, что разум может существовать и без полноценного «телесного» опыта.
