В 2023 году Илья Суцкевер, главный научный сотрудник OpenAI и «мозг» проекта ChatGPT, проводил рабочие дни, изучая чертежи бункера. Создав самый быстрорастущий потребительский продукт в истории, Суцкевер был охвачен ужасом: он боялся, что искусственный интеллект (ИИ) может выйти из-под контроля. Через четыре месяца он инициирует увольнение гендиректора Сэма Альтмана , пытаясь остановить превращение миссии по спасению человечества в погоню за прибылью. Эта история началась в 2003 году с обычного стука в дверь университетской лаборатории.
🧠 Джеффри Хинтон и эпоха «изгнания» нейросетей 1:11
В начале 2000-х Джеффри Хинтон руководил лабораторией ИИ в Университете Торонто, но его работа почти не финансировалась . В то время научное сообщество считало изучение нейронных сетей — попыток заставить компьютеры учиться подобно человеческому мозгу — маргинальным занятием, сравнимым с астрологией в физике .
Противостояние в мире ИИ началось еще в 1956 году, когда на Дартмутской конференции возникли два лагеря:
- Символьный ИИ (Marvin Minsky): подход, основанный на жестком кодировании логики, правил и деревьев решений. Мински считался «крестным отцом» ИИ и имел полную поддержку истеблишмента .
- Нейронные сети: идея «выращивания» интеллекта через обучение на примерах, подобно ребенку .
В 1969 году Мински нанес сокрушительный удар, опубликовав книгу «Перцептроны», в которой математически доказывал ограниченность нейросетей. Это привело к прекращению финансирования со стороны DARPA и закрытию академических журналов для этой темы . Нейросети были официально признаны «мертвой» технологией на десятилетия.
🤝 Встреча, изменившая историю: Хинтон и Суцкевер 10:39
В 2003 году к Хинтону пришел 17-летний студент Илья Суцкевер. Хинтон оценил его потенциал, когда тот с ходу предложил интуитивное улучшение для функции оптимизатора, над которым опытные ученые думали годами .
Суцкевер стал ключевым учеником Хинтона. Вместе они работали над «сетями глубокого доверия» (Deep Belief Networks). Главной проблемой было то, что большие нейросети отказывались обучаться после достижения определенного размера . Решение Хинтона было простым, но новаторским: соединить множество маленьких моделей в одну большую. Это позволило создать модель больше существовавших, но она все еще решала лишь скучные задачи вроде распознавания цифр .
🎮 Революция GPU и AlexNet 18:59
К 2010 году стало ясно, что для прорыва не хватает вычислительной мощности. Хинтон понял, что если нейронную сеть сделать размером с мозг кошки, она станет умнее, но по закону Мура ждать таких мощностей пришлось бы десятилетия .
Спасение пришло из индустрии видеоигр. Оказалось, что видеокарты (GPU), предназначенные для Grand Theft Auto, идеально подходят для математики нейросетей — перемножения матриц . В лабораторию пришел Алекс Крижевский, талантливый программист, который смог обучить нейросети на GPU в своей спальне.
Чтобы доказать силу метода, Хинтон решил принять участие в конкурсе ImageNet — соревновании по распознаванию образов на огромном датасете из 14 миллионов изображений . На конференции ECCV 2012 произошло невероятное:
- Команда Хинтона, Ильи и Алекса представила модель AlexNet .
- Результат: 84,7% точности, что на 10% превысило предыдущий рекорд .
- Это мгновенно сделало 20 лет исследований в области компьютерного зрения устаревшими.
💰 Гонка масштабов и рождение OpenAI 30:44
После триумфа AlexNet за учеными началась охота. Google купила команду Хинтона за $44 млн всего через два месяца после конкурса . Началась эра «масштабирования»: чем больше данных и GPU ты используешь, тем умнее становится модель.
Однако Илью Суцкевера начала беспокоить концентрация такой власти в руках корпорации. В 2015 году он встретился с Сэмом Альтманом и Илоном Маском . Маск убедил его покинуть Google ради создания некоммерческой организации OpenAI, которая стала бы «противовесом» и следила за безопасностью ИИ .
Ключевые этапы становления OpenAI:
- Потеря курса: Поначалу лаборатория была фрагментирована, занимаясь мелкими проектами вроде обучения роборуки собирать кубик Рубика .
- Конфликт с Маском: В 2017 году Маск предложил поглотить OpenAI компанией Tesla, чтобы иметь шансы против Google. Илья отказался, опасаясь единоличного контроля Маска . Маск ушел, прекратив финансирование.
- Сделка с Microsoft: Чтобы оплачивать миллиардные счета за облачные вычисления, OpenAI пришлось отказаться от чисто некоммерческой структуры и принять $1 млрд от Microsoft в 2019 году .
🚀 ChatGPT и предчувствие катастрофы 50:05
В 2020 году была обучена GPT-3, показавшая, что «наивное масштабирование» работает: модель сама научилась писать эссе и код . В ноябре 2022 года OpenAI выпустила ChatGPT — простой чат-интерфейс поверх существующей модели .
Успех был ошеломляющим: 100 миллионов пользователей за 2 месяца . Но внутри компании назревал раскол. Илья Суцкевер видел, как Сэм Альтман все больше фокусируется на продуктах и прибыли, отодвигая безопасность на второй план.
- Альтман обещал выделить 20% вычислительных мощностей на проект «супервыравнивания» (Superalignment), но фактически ресурсы уходили на поддержку ChatGPT .
- Альтман начал вести себя как типичный агрессивный глава стартапа: манипулировал советом директоров и сталкивал команды лбами .
💥 Переворот и уход Ильи 57:12
В октябре 2023 года произошло решающее столкновение. Альтман попытался вытеснить из совета директоров Хелен Тонер, которая опубликовала научную статью с критикой OpenAI . Илья обнаружил, что Сэм лгал членам совета о мнениях друг друга, пытаясь манипулировать составом органа управления.
17 ноября 2023 года совет директоров уволил Альтмана за «недостаточную искренность» . Однако переворот провалился:
- Сотрудники OpenAI (более 90%) подписали письмо с требованием вернуть Сэма, опасаясь за стоимость своих акций .
- Microsoft предложила нанять всех уволившихся, обесценив саму компанию OpenAI.
- Под огромным давлением даже Илья подписал письмо о возвращении Альтмана .
Сэм вернулся более могущественным, чем раньше, а совет директоров был заменен на более лояльный. Илья Суцкевер был фактически отстранен и в мае 2024 года объявил о создании новой компании — SSI (Safe Superintelligence) . Её единственная цель — создание безопасного сверхразума, без давления коммерческих циклов.
