# Мустафа Сулейман о будущем ИИ: «Мы строим новый мир»

Источник: https://www.youtube.com/watch?v=rypDr28BWXQ
Канал: Greylock
Опубликовано: 20.01.2022

---

## Философия технологий и путь к искусственному интеллекту
[[JUMP:01:34]]

Мустафа Сулейман, один из сооснователей DeepMind и новый участник команды Greylock, считает, что философское образование, полученное им в Оксфорде, стало фундаментом для его карьеры в технологическом секторе. По его мнению, философия учит системному мышлению — пониманию того, как информация и идеи формируют структуру общества и поведение людей. Эти знания имеют прямые параллели с дизайном современных технологических платформ: разработчики, создавая продукт, фактически закладывают в него набор ценностей, которые впоследствии влияют на поведение пользователей в масштабе.

Путь Сулеймана к созданию технологий был продиктован стремлением к позитивному социальному влиянию, основанному на принципах эффективного альтруизма. Его разочарование в неспособности мировых лидеров достичь значимых соглашений по климату во время конференции в Копенгагене в 2009 году стало поворотным моментом. В то же время его поразил масштаб влияния Facebook: платформа, существующая всего несколько лет, сумела объединить около 100 миллионов пользователей. Этот контраст убедил его в том, что технологии — самый эффективный инструмент для решения сложных глобальных проблем.

### Рождение DeepMind и первые прорывы
[[JUMP:06:38]]

В 2010 году Сулейман вместе с Деннисом Хассабисом и Шейном Леггом основал DeepMind. В то время сфера искусственного интеллекта переживала не лучшие времена из-за «зимы финансирования», а само упоминание работы в области ИИ часто считалось сомнительным. Тем не менее, подход Шейна Легга, который превратил абстрактное понятие интеллекта в инженерную задачу, измеряемую количественно, дал команде необходимый импульс.

Ключевые вехи технологического развития DeepMind:

* **Обучение представлений:** Переход от «ручного» программирования признаков (когда инженеры прописывали каждый угол и линию для распознавания объектов) к обучению систем самостоятельно строить свои представления.
* **Deep Reinforcement Learning:** Алгоритм DQN, который научился играть в игру Breakout, самостоятельно обнаружив стратегию «туннелирования» для достижения максимального счета — подход, до которого не догадывались многие игроки-люди.
* **Победа AlphaGo:** В 2016 году AlphaGo победила чемпиона мира по го Ли Седоля. По мнению Сулеймана, этот момент стал доказательством того, что алгоритмы способны открывать новые, ранее неизвестные знания, а не просто копировать человеческие стратегии.

## Прикладное применение и трансформация реальности
[[JUMP:15:20]]

Сулейман подчеркивает, что конечной целью всегда было применение ИИ для улучшения жизни. Разработанные методы нашли практическое воплощение в медицине и экологии:

* **Здравоохранение:** ИИ используется для выявления рака груди в маммограммах и диагностики 50 типов заболеваний глаз на основе сканов ОКТ.
* **Энергоэффективность:** Применение методов DeepMind позволило снизить энергопотребление на охлаждение дата-центров Google на 30%.

### Эра фундаментальных моделей
[[JUMP:17:17]]

По словам Сулеймана, прорыв в развитии ИИ произошел благодаря масштабированию архитектуры трансформеров, представленной Google в 2017 году. OpenAI продемонстрировала, что при достаточном количестве вычислительных мощностей эти модели способны генерировать текст, поразительно похожий на человеческий.

Механизм «внимания» (attention) в трансформерах позволяет алгоритму эффективно соотносить слова в предложении, определяя их важность относительно друг друга. Сулейман отмечает, что мы переходим к «мультимодальным» системам (фундаментальным моделям), где единая архитектура может обрабатывать и генерировать текст, аудио и изображения.

* **Прогноз для стартапов:** В ближайшие пять лет эти технологии станут повсеместными. Сулейман сравнивает ИИ с «новой глиной», из которой можно создавать любые формы контента.
* **Эффективность:** Несмотря на экспоненциальный рост затрат на вычисления, алгоритмы становятся эффективнее, что в будущем позволит запускать мощные модели прямо на локальных устройствах, без необходимости в облаке.

## Лидерство и этика в эпоху ИИ
[[JUMP:28:19]]

В ходе беседы Сулейман затронул тему своего управленческого опыта, признав ошибки прошлого. В 2017–2018 годах коллеги жаловались на его агрессивный стиль менеджмента и нереалистичные ожидания. Он отметил, что чрезмерная концентрация на скорости и результате приводила к пренебрежению чувствами сотрудников, и принес публичные извинения. Сейчас он продолжает работать с коучем и считает процесс личностного роста непрерывным.

### Проблема контроля и управления (Alignment)
[[JUMP:31:22]]

Вопрос безопасности ИИ и контроля над ним (alignment) остается открытым. Сулейман считает, что единого решения нет, поэтому необходимо поддерживать «флотилию» экспериментальных подходов:

* Создание наблюдательных советов при разработке AGI.
* Внедрение этических хартий и участие независимых институтов.
* Эксперименты с формами собственности и правовыми структурами компаний.

Сулейман вспоминает, как при покупке DeepMind компанией Google настоял на создании этического совета. Хотя он признает, что этот процесс был несовершенным, он убежден в необходимости радикального экспериментирования в области управления технологиями.