Известный эксперт в области искусственного интеллекта Гари Маркус в специальном выпуске техподдержки для WIRED отвечает на вопросы пользователей Twitter о будущем чат-ботов, безопасности нейросетей и фундаментальных различиях между человеческим разумом и алгоритмами. Видео охватывает широкий спектр тем: от возможности ИИ заменить студенческие эссе до технических аспектов обучения больших языковых моделей.
🎓 ИИ в образовании: конец эпохи эссе? 0:00
Появление ChatGPT вызвало волну опасений в академической среде, однако Гари Маркус считает, что это не конец формата эссе, а начало его трансформации . На текущем этапе нейросети пишут работы среднего уровня («на троечку»), и преподавателям стоит изменить подход к заданиям .
Рекомендации эксперта для преподавателей:
- Разрешать использование ChatGPT как инструмента для черновиков.
- Акцентировать внимание на критическом разборе того, что выдала нейросеть.
- Обсуждать со студентами, как сделать сгенерированный текст более интересным и глубоким.
Такой подход, по мнению Маркуса, не убивает эссе, а делает процесс обучения более сложным, увлекательным и развивает навыки критического мышления .
🚀 Почему 2022 год стал переломным для ИИ 0:37
Существует несколько причин, по которым ИИ внезапно стал мейнстримом именно в 2022 году, хотя чат-боты существовали десятилетиями .
- Качество «лжи»: Раньше чат-боты говорили ужасные вещи и очевидно лгали. Современные модели научились «лгать» настолько правдоподобно и интересно, что это захватило внимание публики .
- Глубокое обучение (Deep Learning): Значительные успехи в этой области позволили создавать инструменты для улучшения изображений и продвинутые текстовые интерфейсы .
- Доступность данных: Современный ИИ чрезвычайно «прожорлив» в плане данных. Накопление критической массы информации позволило наконец «вкусить плоды» этих технологий .
🛠️ Техническое руководство: Как построить ИИ-империю 1:28
Для тех, кто мечтает о создании компании стоимостью в триллион долларов, Гари Маркус дает несколько стратегических и технических советов, основываясь на своем опыте построения успешного стартапа.
Шаг 1: Фундаментальное обучение
Вместо того чтобы изучать только популярные сегодня большие языковые модели (LLM), Маркус советует изучать историю и теорию ИИ максимально широко . Конкуренты будут сфокусированы на хайпе, а глубокое понимание контекста даст преимущество.
Шаг 2: Выбор ниши
Секрет успеха, по словам эксперта, заключается в решении проблем, которые игнорируют другие .
- Пример: Его компания сфокусировалась на обучении систем в условиях дефицита данных, а не их избытка.
Шаг 3: Техническая реализация (Построение LLM)
С технической точки зрения создание современной языковой модели включает следующие этапы :
- Создание нейронной сети: Архитектура с узлами («нейронами»), связывающими входные данные с выходными.
- Самообучение (Self-supervised learning): Обучение сети предсказывать следующие элементы на основе связей, которые корректируются в процессе.
- Внедрение трансформеров (Transformer models): Использование механизма Attention («внимание») . Это позволяет системе понимать, какие части предложения наиболее релевантны в конкретный момент, учитывая широкий контекст, а не только последние несколько слов .
🚗 Миф о беспилотниках и «проблема аутлайеров» 3:37
Несмотря на громкие обещания, создание по-настоящему беспилотного авто (уровня Uber без водителя) все еще остается сложной задачей .
Гари Маркус выделяет проблему аутлайеров (редких случаев) как главный барьер:
- Нейросети обучаются на базе известных сценариев.
- В реальном мире возникают ситуации, которых нет в обучающей выборке (например, столкновение Tesla с самолетом на летном поле) .
- Таких «краевых случаев» бесконечное множество, и у разработчиков пока нет универсального решения.
По прогнозу Маркуса, в ближайшие годы мы увидим беспилотники только в ограниченных районах с предсказуемым трафиком, но полноценный отказ от вождения наступит еще нескоро .
🧠 Что такое интеллект и почему Тест Тюринга устарел 4:30
Маркус считает Тест Тюринга плохим мерилом, так как людей слишком легко обмануть . Вместо него он предлагает «Испытание на понимание» (Comprehension Challenge): система должна посмотреть фильм или прочитать книгу и объяснить суть происходящего, например, почему персонаж ошибочно принял муляж за настоящую бомбу .
Отличия человеческого интеллекта от машинного:
- Гибкость: Способность справляться с новыми, незнакомыми ситуациями .
- Моделирование мира: Дети в процессе обучения действуют как «маленькие ученые», изучая гравитацию и причинно-следственные связи .
- Корреляция vs Причинность: Современный ИИ просто ищет закономерности (корреляции) в данных, не понимая, как устроен мир на самом деле .
⚠️ Риски: От диктатуры до дезинформации 6:39
Маркус скептически относится к идее «восстания машин» в стиле Скайнета, но видит реальные угрозы в другом.
Основные опасности текущего этапа развития ИИ:
- Неправильные решения: Если ИИ, не понимающий устройство мира, будет управлять электросетями, он может совершить фатальную ошибку при столкновении с нестандартной ситуацией .
- Угроза демократии: Способность нейросетей генерировать дезинформацию в промышленных масштабах может подорвать доверие людей к любым институтам и фактам . Маркус опасается, что это прямой путь к фашизму из-за полной потери веры в систему .
- Рынок труда: В ближайшее десятилетие под ударом окажутся коммерческие художники (не изобретающие новые стили) и кассиры в магазинах .
🧱 Стена Deep Learning 9:41
Гари Маркус подтверждает свой тезис о том, что глубокое обучение «уперлось в стену». Несмотря на визуальную убедительность ответов Bing или Bard, проблемы с истинностью и надежностью данных не исчезают .
Для решения этой проблемы он предлагает переход к нейросимволическому ИИ (Neuro-symbolic AI) — гибридному подходу, который объединяет статистическую мощь нейросетей с логическим выводом и манипуляцией символами (фактами) . Только так можно научить ИИ понимать, что если «все люди смертны, а Сократ — человек», то Сократ обязательно смертен, не полагаясь лишь на предсказание следующего слова .
🧬 ИИ и биология: Луч надежды 7:17
Несмотря на критику, Маркус видит в ИИ колоссальный потенциал для науки.
- Медицина: ИИ может помочь разобраться в 20 000 генов и миллионах белков, чтобы найти лекарство от болезни Альцгеймера .
- Климат: Поиск новых материалов для эко-технологий.
- Забота о пожилых: Создание роботов-помощников для стареющего населения, которым можно будет доверять .
В конечном итоге, по мнению Маркуса, человеческий мозг с его 100 миллиардами нейронов и невероятной энергоэффективностью все еще остается непревзойденным устройством . Возможно, через 100 лет ситуация изменится, но пока мы лишь в начале пути понимания как собственного разума, так и создаваемого нами ИИ.
