# Скотт Даунс: «Мы даем тренерам ИИ костюмы Железного человека» Источник: https://www.youtube.com/watch?v=CTNVmBBw80U Канал: Eye on AI Опубликовано: 02.08.2023 --- Обучение современных больших языковых моделей (LLM) часто представляют как процесс поглощения колоссальных объемов данных мощными графическими процессорами. Однако за кулисами этого процесса стоит «армия» людей, которые обучают нейросети вести себя корректно и фактическая точность ответов ИИ во многом зависит от качества их работы. Технический директор компании Invisible Technologies Скотт Даунс (Scott Downes) в интервью каналу Eye on AI подробно рассказал о механизмах обучения с подкреплением на основе отзывов людей (RLHF), будущем рынка труда и о том, почему «гуманитарный» подход сегодня важен для технологий как никогда раньше. ## 🛠 От литературы к коду: Путь CTO нового типа [[JUMP:01:31]] Скотт Даунс называет себя «CTO другого типа», подчеркивая, что его путь в технологии не был линейным [01:43]. Начав писать код в 14 лет, в университете он изучал литературу, а в 20 лет работал на радио, был музыкантом и дизайнером [02:09]. По его словам, именно эпоха доткомов сделала востребованным широкий кругозор, когда выпускники филологических и театральных факультетов массово переходили в технологический сектор [03:05]. Этот бэкграунд сформировал философию Даунса: * Технологии наиболее эффективны, когда они «невидимы» и служат для усиления человеческого потенциала [1:02:23]. * Процесс разработки ПО перестал быть изолированным «производством дисков в коробках» и стал пронизывать все бизнес-процессы [03:31]. * Главная метрика успеха технологического решения — способность объяснить его суть простому человеку (например, собственной матери) [04:25]. ## 🧠 Invisible Technologies: Гибрид автоматизации и человеческого интеллекта [[JUMP:07:16]] Компания Invisible Technologies, где Даунс занимает пост CTO, позиционирует себя как платформу на стыке управления персоналом и автоматизации [07:28]. Даунс описывает их подход как «горизонтальный», позволяющий решать задачи масштабирования бизнеса через комбинацию консалтинга, труда и ИТ-решений [08:22]. Ключевой метод работы компании — это поиск «болевых точек» в процессах клиента, которые Даунс метафорически называет «рисованием круга маркером вокруг проблемы» [11:42]. Основные отличия подхода Invisible от традиционного аутсорсинга: 1. **Против «аренды тел»:** Традиционные фирмы продают часы работы, что создает неверные стимулы для раздувания штата. Invisible фокусируется на результате и оптимизации [10:08]. 2. **Против полной автоматизации:** Чисто технологические решения (OCR, скрейпинг) часто хрупки и требуют долгой настройки. Гибридный подход позволяет запустить процесс немедленно [11:01]. 3. **Гибкость интерфейсов:** Платформа позволяет создавать новые цифровые поверхности для взаимодействия тренеров с ИИ на основе оперативной обратной связи от исследователей [22:01]. В качестве примера Даунс приводит работу с компаниями по доставке еды (например, DoorDash). Задача по оцифровке миллионов ресторанных меню требует не просто распознавания текста, но и понимания контекста: например, ИИ должен знать, что нельзя заказать курицу степени прожарки «medium rare» [36:30]. ## 🦾 RLHF: «Костюм Железного человека» для тренеров ИИ [[JUMP:15:45]] Одним из главных направлений работы Invisible стало обучение с подкреплением на основе отзывов людей (RLHF). Даунс утверждает, что их платформа используется OpenAI и другими известными компаниями для доработки моделей [17:06]. По мнению Даунса, в индустрии происходит важный сдвиг: * **От количества к качеству:** Время «армий» низкоквалифицированных разметчиков данных, кликающих по картинкам с хот-догами, проходит [17:20]. * **Высокий уровень суждений:** Современные задачи RLHF требуют экспертов с учеными степенями, отличным знанием языков и способностью принимать сложные решения [52:21]. * **Инструментарий:** В Invisible это называют «выдачей агентам костюмов Железного человека» — использованием ИИ для максимизации эффективности одного высококвалифицированного тренера [22:28]. Даунс подчеркивает, что обучение ИИ сегодня напоминает воспитание ребенка и обучение его в школе [27:58]. Если модель утверждает, что «2 + 2 = 5», её не нужно перепрошивать на уровне калькулятора — её нужно отправить в «класс математики», где через примеры и исправления она усвоит правило «2 + 2 = 4» [29:33]. ## 🤥 Проблема галлюцинаций и поиск «объективной истины» [[JUMP:26:11]] Ведущий Крейг Смит выразил скепсис относительно способности RLHF полностью искоренить галлюцинации ИИ, называя их «ложью» [26:37]. Он предположил, что без фундаментальной «модели мира», не основанной на языке, ИИ не сможет отличить реальность от вымысла [31:06]. Скотт Даунс, напротив, настроен оптимистично. Его аргументы: * **Латентные возможности:** В LLM уже заложено гораздо больше потенциала и «моделей мира», чем кажется на первый взгляд. Проблема часто заключается не во внутреннем понимании, а в способе выражения [39:01]. * **Обучение черезHabit:** Через RLHF модель обучают не просто конкретным фактам, а «поведению» — привычке искать наиболее объективную истину в поглощенных данных [34:25]. * **Доказанный прогресс:** Даунс утверждает, что лично наблюдал, как работа его команды приводила к исправлениям в новых версиях известных LLM: там, где раньше модель ошибалась в простых логических цепочках, после обучения она выдавала верный результат на новых, не входивших в обучение примерах [43:33]. ## 🎤 Промпт-инжиниринг против тонкой настройки (Fine-tuning) [[JUMP:38:46]] Даунс отметил неожиданный тренд: потребность в глубокой донастройке моделей (fine-tuning) под конкретных клиентов оказалась ниже, чем ожидалось [46:22]. По его словам: * «Стоковые» модели (например, GPT-4) при правильном подходе решают гораздо больше задач, чем предполагали разработчики [47:03]. * Основной прирост качества дает «промпт-инжиниринг» — искусство правильно задавать вопросы «оракулу в Дельфах» [40:37]. * Иногда изменение формулировки вопроса дает лучший результат, чем попытка создать специализированную модель под узкую задачу [41:07]. В качестве примера Даунс привел случай из области e-commerce: GPT-4 «из коробки» смогла классифицировать косметические товары (отличить подводку для глаз от туши) лучше, чем люди, хотя изначально в компании планировали использовать для этого специализированную модель [37:25]. ## 🎨 Творчество, социальный эффект и будущее труда [[JUMP:53:00]] Обсуждая влияние ИИ на рынок труда, Даунс выразил уверенность, что технологии не уничтожат профессии, а избавят людей от «дегуманизирующего» монотонного труда [56:44]. Основные тезисы участников дискуссии: * **Текст как инструмент:** Крейг Смит отметил, что ИИ станет огромным подспорьем для людей, которые умеют читать, но испытывают трудности с написанием текстов (аналогия с успехом сервиса Grammarly) [58:42]. * **Креативный вызов:** Появление «ИИ-Дрейка» (песен, полностью имитирующих стиль известного рэпера) пугает, но одновременно заставляет ценить подлинное человеческое творчество выше [1:01:58]. * **Эффект привыкания:** Как и в случае с фотофильтрами (например, Prisma), вау-эффект от ИИ-искусства быстро проходит, и люди начинают требовать чего-то более глубокого и человечного [1:01:04]. Даунс резюмирует, что эпоха ИИ — это не про замену людей машинами, а про переход человека к задачам, требующим «высокого уровня суждений» (High Judgment Work), где машины служат лишь инструментом для реализации человеческого видения [56:57].