Девять лет назад Орен Этциони оставил стабильную профессорскую кафедру, чтобы возглавить амбициозный проект покойного сооснователя Microsoft Пола Аллена. Сегодня Институт искусственного интеллекта Аллена (AI2) стал уникальной силой в индустрии, создавая технологии, которые слишком сложны для университетов и недостаточно прибыльны для корпораций.
🏛️ Феномен AI2: Мост между наукой и бизнесом 0:00
Орен Этциони описывает AI2 как редкий гибрид в мире технологий. В отличие от традиционных университетов, где работа над проектами ограничена сроками обучения студентов, AI2 нанимает профессиональных инженеров из Google и Amazon для создания устойчивых, масштабируемых систем.
- Миссия: В основе организации лежит концепция «ИИ для общего блага» (AI for the common good).
- Уникальность: По словам Этциони, AI2 делает работу, которую компании «не хотят делать», а университеты «не могут» .
- Инкубатор: При институте создан стартап-инкубатор. Этциони утверждает, что общая оценка созданных или приобретенных через него компаний (таких как Xnor.ai, купленная Apple) приближается к 750 миллионам долларов .
Гость подчеркивает, что создание коммерческих структур — это естественный цикл жизни идей: некоторые технологии требуют рыночных ресурсов для полноценного развития. При этом сам Этциони не преследует личную выгоду, считая свою роль формой служения обществу.
🤖 Эволюция NLP: От «Кунжута» до гигантских моделей 3:10
Современный успех обработки естественного языка (NLP) — это не случайный рывок, а результат тридцатилетней работы. Этциони и ведущий Джон Бештор (John Bestor) обсуждают корни нынешнего бума, вспоминая модель Elmo, созданную в AI2 и положившую начало «эпохе персонажей Маппет-шоу» в названиях алгоритмов .
- Принцип близости: Вся современная лингвистика ИИ базируется на фразе Дж. Харриса 1950-х годов: «Ты узнаешь слово по компании, которую оно держит» .
- Масштаб: Этциони считает, что текущий прогресс — это тот же принцип контекста, но умноженный на миллиарды примеров .
- Грамматика: Удивительным открытием стало то, что моделям не нужно закладывать правила грамматики — они обучаются им самостоятельно через огромные объемы данных .
Однако Орен призывает к скептицизму. Он вспоминает свои живые демо 2018 года, где намеренно ломал модели, меняя лишь одно слово во входных данных. «Никогда не верьте ИИ-демо», — цитирует он Кейт Метц из New York Times, предупреждая, что впечатляющие результаты часто скрывают глубокую хрупкость систем .
🧠 Спор о сознании и страхи Илона Маска 9:41
Обсуждая долгосрочные цели Пола Аллена, Этциони отмечает, что тот всегда рассматривал ИИ как соревнование между «мокрыми лабораториями» (нейронаука) и программным обеспечением. Аллен инвестировал в оба направления, чтобы понять природу интеллекта .
- Отношение к AGI: Этциони критически относится к заявлениям о том, что современные системы близки к сознанию или «самочувствию» .
- Критика Илона Маска: Гость называет заявления Маска о том, что ИИ — это «призыв демона», худшим видом хайпа . По мнению Орена, такие страхи не имеют под собой оснований в данных и скорее относятся к научной фантастике, чем к реальности.
- Проблема «Стерео»: Этциони использует аналогию: современная нейросеть — это очень сложная стереосистема с миллиардами ручек настройки. Как бы точно вы их ни крутили, стереосистема не превратится в «Звезду Смерти» .
- Зеркало: Он рассматривает большие языковые модели как зеркала человеческого дискурса. Они кажутся умными, потому что отражают наш собственный интеллект, заложенный в текстах .
🔬 Инструменты для науки будущего 32:13
Одним из флагманских продуктов AI2 является Semantic Scholar — бесплатная поисковая система по научным публикациям.
- Масштаб: Система охватывает около 200 миллионов статей и обслуживает 100 миллионов пользователей в год .
- Semantic Reader: Новый проект под руководством профессора Дэна Уэлда. Это интеллектуальный «ридер», который позволяет видеть определения терминов и краткие содержания (TL;DR) цитируемых работ при наведении курсора, избавляя исследователя от необходимости бесконечно открывать новые вкладки .
- Цель: Сделать ученых всех отраслей — от климатологов до врачей — на 10% эффективнее .
Кроме того, институт применяет ИИ для решения прикладных экологических задач: проект Skylight использует компьютерное зрение для выявления незаконного рыболовства через спутниковые снимки, а другие модели помогают предсказывать изменения в осадках для сельского хозяйства .
⚖️ Проблема здравого смысла и этический проект Delphi 39:10
Самым сложным вызовом Этциони считает создание «здравого смысла» (common sense). Профессор Юджин Чой возглавляет проект Mosaic, который пытается обучить машины базовым вещам: например, что слон не пролезет в дверной проем, а солнце больше монеты .
- Этика: AI2 создал проект Delphi — исследовательский прототип, обученный на нормах морали. Он может предсказывать, как разные группы людей оценят тот или иной поступок.
- Политическая относительность: Delphi способен отвечать с разных точек зрения, например, объясняя позицию либералов или консерваторов по вопросу абортов .
- Реакция сообщества: Релиз Delphi вызвал волну критики в соцсетях. Этциони признает, что это «минное поле», но утверждает, что наука не должна избегать острых тем .
- Человеческий фактор: Орен выразил сожаление по поводу того, что агрессия критиков была направлена на молодых исследователей и студентов, участвовавших в проекте.
В завершение Этциони дает совет слушателям: ИИ прогрессирует невероятно быстро, но важно помнить, что под «капотом» все еще нет сознания. Главная задача сегодня — не поддаваться ни позитивному, ни негативному гиперболизированию (хайпу), а сосредоточиться на интеграции технологий в общество для всеобщего блага .
