# Орен Этциони: «ИИ — это зеркало, а не Звезда Смерти» Источник: https://www.youtube.com/watch?v=0DRm3hES7-0 Канал: The TWIML AI Podcast Опубликовано: 07.11.2022 --- Девять лет назад Орен Этциони оставил стабильную профессорскую кафедру, чтобы возглавить амбициозный проект покойного сооснователя Microsoft Пола Аллена. Сегодня Институт искусственного интеллекта Аллена (AI2) стал уникальной силой в индустрии, создавая технологии, которые слишком сложны для университетов и недостаточно прибыльны для корпораций. ## 🏛️ Феномен AI2: Мост между наукой и бизнесом [[JUMP:00:00]] Орен Этциони описывает AI2 как редкий гибрид в мире технологий. В отличие от традиционных университетов, где работа над проектами ограничена сроками обучения студентов, AI2 нанимает профессиональных инженеров из Google и Amazon для создания устойчивых, масштабируемых систем. * **Миссия:** В основе организации лежит концепция «ИИ для общего блага» (AI for the common good). * **Уникальность:** По словам Этциони, AI2 делает работу, которую компании «не хотят делать», а университеты «не могут» [17:42]. * **Инкубатор:** При институте создан стартап-инкубатор. Этциони утверждает, что общая оценка созданных или приобретенных через него компаний (таких как Xnor.ai, купленная Apple) приближается к 750 миллионам долларов [23:47]. Гость подчеркивает, что создание коммерческих структур — это естественный цикл жизни идей: некоторые технологии требуют рыночных ресурсов для полноценного развития. При этом сам Этциони не преследует личную выгоду, считая свою роль формой служения обществу. ## 🤖 Эволюция NLP: От «Кунжута» до гигантских моделей [[JUMP:03:10]] Современный успех обработки естественного языка (NLP) — это не случайный рывок, а результат тридцатилетней работы. Этциони и ведущий Джон Бештор (John Bestor) обсуждают корни нынешнего бума, вспоминая модель Elmo, созданную в AI2 и положившую начало «эпохе персонажей Маппет-шоу» в названиях алгоритмов [03:10]. * **Принцип близости:** Вся современная лингвистика ИИ базируется на фразе Дж. Харриса 1950-х годов: «Ты узнаешь слово по компании, которую оно держит» [05:23]. * **Масштаб:** Этциони считает, что текущий прогресс — это тот же принцип контекста, но умноженный на миллиарды примеров [06:03]. * **Грамматика:** Удивительным открытием стало то, что моделям не нужно закладывать правила грамматики — они обучаются им самостоятельно через огромные объемы данных [06:41]. Однако Орен призывает к скептицизму. Он вспоминает свои живые демо 2018 года, где намеренно ломал модели, меняя лишь одно слово во входных данных. «Никогда не верьте ИИ-демо», — цитирует он Кейт Метц из New York Times, предупреждая, что впечатляющие результаты часто скрывают глубокую хрупкость систем [03:49]. ## 🧠 Спор о сознании и страхи Илона Маска [[JUMP:09:41]] Обсуждая долгосрочные цели Пола Аллена, Этциони отмечает, что тот всегда рассматривал ИИ как соревнование между «мокрыми лабораториями» (нейронаука) и программным обеспечением. Аллен инвестировал в оба направления, чтобы понять природу интеллекта [10:07]. * **Отношение к AGI:** Этциони критически относится к заявлениям о том, что современные системы близки к сознанию или «самочувствию» [04:29]. * **Критика Илона Маска:** Гость называет заявления Маска о том, что ИИ — это «призыв демона», худшим видом хайпа [25:30]. По мнению Орена, такие страхи не имеют под собой оснований в данных и скорее относятся к научной фантастике, чем к реальности. * **Проблема «Стерео»:** Этциони использует аналогию: современная нейросеть — это очень сложная стереосистема с миллиардами ручек настройки. Как бы точно вы их ни крутили, стереосистема не превратится в «Звезду Смерти» [27:49]. * **Зеркало:** Он рассматривает большие языковые модели как зеркала человеческого дискурса. Они кажутся умными, потому что отражают наш собственный интеллект, заложенный в текстах [28:15]. ## 🔬 Инструменты для науки будущего [[JUMP:32:13]] Одним из флагманских продуктов AI2 является Semantic Scholar — бесплатная поисковая система по научным публикациям. * **Масштаб:** Система охватывает около 200 миллионов статей и обслуживает 100 миллионов пользователей в год [20:29]. * **Semantic Reader:** Новый проект под руководством профессора Дэна Уэлда. Это интеллектуальный «ридер», который позволяет видеть определения терминов и краткие содержания (TL;DR) цитируемых работ при наведении курсора, избавляя исследователя от необходимости бесконечно открывать новые вкладки [33:19]. * **Цель:** Сделать ученых всех отраслей — от климатологов до врачей — на 10% эффективнее [35:43]. Кроме того, институт применяет ИИ для решения прикладных экологических задач: проект Skylight использует компьютерное зрение для выявления незаконного рыболовства через спутниковые снимки, а другие модели помогают предсказывать изменения в осадках для сельского хозяйства [37:26]. ## ⚖️ Проблема здравого смысла и этический проект Delphi [[JUMP:39:10]] Самым сложным вызовом Этциони считает создание «здравого смысла» (common sense). Профессор Юджин Чой возглавляет проект Mosaic, который пытается обучить машины базовым вещам: например, что слон не пролезет в дверной проем, а солнце больше монеты [39:35]. * **Этика:** AI2 создал проект Delphi — исследовательский прототип, обученный на нормах морали. Он может предсказывать, как разные группы людей оценят тот или иной поступок. * **Политическая относительность:** Delphi способен отвечать с разных точек зрения, например, объясняя позицию либералов или консерваторов по вопросу абортов [49:39]. * **Реакция сообщества:** Релиз Delphi вызвал волну критики в соцсетях. Этциони признает, что это «минное поле», но утверждает, что наука не должна избегать острых тем [51:10]. * **Человеческий фактор:** Орен выразил сожаление по поводу того, что агрессия критиков была направлена на молодых исследователей и студентов, участвовавших в проекте. В завершение Этциони дает совет слушателям: ИИ прогрессирует невероятно быстро, но важно помнить, что под «капотом» все еще нет сознания. Главная задача сегодня — не поддаваться ни позитивному, ни негативному гиперболизированию (хайпу), а сосредоточиться на интеграции технологий в общество для всеобщего блага [55:47].