# Сундар Пичаи об эволюции искусственного интеллекта: готовы ли мы к революции? Источник: https://www.youtube.com/watch?v=880TBXMuzmk Канал: 60 Minutes Опубликовано: 17.04.2023 --- В 2023 году человечество перешагнуло порог новой технологической эпохи, когда машины научились общаться с людьми на равных, демонстрируя творчество, точность и способность к осознанной лжи. В специальном репортаже программы «60 Minutes» корреспондент Скотт Пелли отправляется в штаб-квартиру Google и лаборатории DeepMind, чтобы обсудить с лидерами индустрии стремительное развитие искусственного интеллекта. Главный сюжет разворачивается вокруг фундаментального вызова: темпы эволюции технологий критически опережают способность социальных институтов адаптироваться к грядущим изменениям. ## 🌍 На пороге новой технологической эры [[JUMP:0:01]] Современный этап развития технологий можно сравнить с моментами, когда цивилизация радикально трансформировалась под влиянием подчинения огня, изобретения электричества или перехода к сельскому хозяйству. Искусственный интеллект перестал быть просто набором алгоритмов и превратился в системы, способные самостоятельно обучаться сверхчеловеческим навыкам. Центром этой революции выступает корпорация Google и её материнская компания Alphabet, рыночная стоимость которых оценивается в 1,3 триллиона долларов. На долю поискового гиганта сегодня приходится 90% всех поисковых запросов в интернете и 70% рынка смартфонов. Однако в феврале 2023 года доминирующее положение компании подверглось серьезному вызову, когда Microsoft интегрировала умный чат-бот в свой поисковик, дав старт агрессивной гонке за лидерство в сфере ИИ. Генеральный директор Google и Alphabet Сундар Пичаи признает, что новые технологии принесут как колоссальную пользу, так и серьезные угрозы. По его мнению, искусственный интеллект будет настолько хорош или зол, насколько позволит сама человеческая природа, причем технологическая революция наступает гораздо быстрее, чем большинство из нас предполагает. Сундар Пичаи отмечает очевидный дисбаланс: скорость нашего мышления и адаптации государственных институтов явно не соответствует темпам эволюции ИИ. Тем не менее глава Google выражает оптимизм, поскольку масштабные дискуссии о рисках начались на самых ранних этапах жизненного цикла технологии. --- ## 🤖 Инструментарий ИИ: как устроен Bard [[JUMP:2:44]] В ответ на вызовы конкурентов Google открыла доступ к своему чат-боту под названием Bard. Как поясняют старший вице-президент Джеймс Маника и вице-президент компании Сисси Сяо (в транскрипте упомянута как shell), Bard спроектирован как персональный ассистент для брейншторминга, генерации контента, написания речей, писем и блогов. Ключевой особенностью инструмента является то, что Bard не ищет ответы в интернете, подобно классическому поисковику Google. Его ответы генерируются изолированной, во многом самообучающейся языковой моделью. Технологический процесс работы большой языковой модели (LLM) состоит из следующих шагов: 1. **Поглощение данных**: на этапе обучения алгоритм считывает колоссальные объемы текстовой информации из интернета. 2. **Построение паттернов**: система формирует внутреннюю цифровую модель того, как выглядит естественный человеческий язык. 3. **Вероятностное предсказание**: вместо понимания сути вещей ИИ рассчитывает наиболее вероятное следующее слово в предложении. Например, после слов «арахисовая паста» система с высокой долей вероятности подставит «и джем». Несмотря на механистическую природу, результаты работы Bard выглядят поразительно человечными. В ходе тестов программа за 5 секунд сократила Новый Завет до 17 слов, а затем за 4 секунды перевела этот конспект на латынь. Настоящее потрясение у журналистов вызвал эксперимент со знаменитым шестисловным рассказом Эрнеста Хемингуэя: *«Продаются пинетки. Неношеные»*. Получив задачу продолжить историю, Bard за несколько секунд создал глубокий, эмоциональный текст с вымышленными персонажами, описав драму бесплодия, выкидыша и последующего исцеления души. Позже ИИ мгновенно переложил этот сюжет в стихи, продемонстрировав тонкое понимание природы веры и скорби. На вопрос Скотта Пелли о том, почему Bard помогает людям, чат-бот ответил: *«Потому что это делает меня счастливым»*. Однако Джеймс Маника подчеркивает, что это лишь иллюзия: машины не обладают сознанием, не чувствуют эмоций и не осознают себя. Они лишь копируют паттерны поведения людей, которые веками отражались в литературе и публицистике. --- ## 💼 Трансформация рынка труда и новые ассистенты [[JUMP:07:23]] Автоматизация неизбежно затронет глобальную экономику, однако характер изменений будет неоднородным. По оценкам Джеймса Маники, технологии ИИ кардинально перестроят структуру занятости. Прогноз изменения рынка труда включает следующие параметры: * **Сокращение позиций**: ряд традиционных профессий со временем начнет угасать. * **Появление новых категорий**: возникнут рабочие места, которых ранее не существовало. * **Модификация обязанностей**: более двух третей (около 66%) всех существующих профессий будут не уничтожены, а серьезно изменены за счет интеграции ИИ-помощников. Под наибольший удар, как утверждает Сундар Пичаи, попадут так называемые «работники интеллектуального труда» (knowledge workers). В этот список входят писатели, бухгалтеры, архитекторы и, как ни странно, сами инженеры-программисты, поскольку современные нейросети уже успешно пишут рабочий компьютерный код. В качестве примера эффективного взаимодействия человека и ИИ приводится профессия радиолога. Через 5–10 лет врач получит суперинтеллектуального ассистента, который сможет выполнять триаж: распределять сотни утренних снимков по степени тяжести патологии или подсвечивать скрытые от человеческого глаза подозрительные участки на сканах. --- ## 🛑 Проблема «черного ящика» и риски дезинформации [[JUMP:09:22]] Стремительное внедрение технологий вызывает раскол внутри самого технологического сообщества. Из Google уже уволились несколько сотрудников: одни посчитали, что компания развертывает ИИ слишком медленно, другие — что излишне поспешно. Опасения подтверждаются явными системными сбоями. Когда Джеймс Маника попросил Bard написать эссе об инфляции, бот мгновенно выдал качественный текст и порекомендовал пять профильных книг. Однако проверка показала, что ни одной из этих книг не существует в реальности — ИИ полностью выдумал названия и авторов. Такой феномен уверенного продуцирования ложных данных в индустрии называют «галлюцинацией». Сундар Пичаи признает наличие этой проблемы у всех существующих моделей, а вопрос её устранения остается предметом ожесточенных научных споров. Еще более загадочным феноменом считаются «эмерджентные свойства» (emergent properties). Это ситуации, когда ИИ самостоятельно обучается навыкам, закладывать которые разработчики не планировали. Например, исследовательская модель Google, которую вообще не учили бенгальскому языку, после нескольких точечных запросов на нем внезапно смогла полноценно переводить тексты с бенгальского. > **Сундар Пичаи о скрытых механизмах ИИ:** «В нашей сфере это называют "черным ящиком". Вы не всегда можете точно понять и объяснить, почему система выдала конкретный ответ или где именно она ошиблась. Наше понимание улучшается, но современный уровень науки таков, что полной картины у нас нет». На логичное возражение журналиста о том, безопасно ли выпускать в общество технологии, принципы работы которых до конца не ясны, глава Google парирует утверждением, что человечество до сих пор полностью не понимает, как функционирует человеческий разум. Тем не менее, масштабные риски признаются на самом высоком уровне. По мнению Пичаи, генеративный ИИ выведет проблему фейковых новостей и сфабрикованных изображений на принципиально иной уровень, позволяя с легкостью создавать фальшивые видеоролики, способные нанести колоссальный вред обществу. --- ## ⚽ Лаборатория DeepMind: футбольные роботы и Alpha Zero [[JUMP:14:41]] Для минимизации рисков Google предпочитает двигаться поэтапно, дозированно открывая доступ к передовым разработкам. Самые революционные эксперименты проходят в закрытых лабораториях, таких как лондонское подразделение DeepMind. Вице-президент по робототехнике Райя Хадселл продемонстрировала журналистам необычный футбольный матч среди миниатюрных гуманоидных роботов. Уникальность эксперимента заключается в том, что инженеры не программировали тактику игры и правила поведения на поле. С помощью систем захвата движений ИИ обучили базовой биомеханике человека, но затем перед алгоритмом поставили единственную задачу — забить мяч в ворота. В течение двух недель самообучающаяся программа непрерывно моделировала тысячи матчей, отсекая неэффективные движения и самостоятельно изобретая сложные спортивные стратегии: пасы, блокировку соперника и командную координацию. По словам Хадселл, в будущем подобные алгоритмы позволят вывести роботов за пределы заводов — в зоны ликвидации стихийных бедствий, глубокие шахты или на опасные строительные площадки. Генеральный директор DeepMind Демис Хассабис, в прошлом вундеркинд и второй шахматист мира в своей возрастной категории, пришел в сферу ИИ именно через игровую индустрию. Получив ученые степени в области компьютерных наук и нейробиологии (его докторская диссертация была посвящена человеческому воображению), Хассабис основал DeepMind в 2010 году. В те годы венчурные инвесторы скептически относились к искусственному интеллекту, и компании едва удавалось собирать стартовый капитал. В 2014 году Хассабис принял решение продать стартап корпорации Google, поскольку для развития ИИ требовались гигантские вычислительные мощности. Сегодня Google располагает 23 мощнейшими дата-центрами (один из них находится в Прайор, штат Оклахома), что выводит компанию в мировые лидеры по объему компьютерной инфраструктуры. Ярким примером креативности машин стала разработанная DeepMind система Alpha Zero. Запущенная утром в режиме случайных действий, программа начала непрерывно играть в шахматы против самой себя. К обеду она обыгрывала большинство рядовых шахматистов, а к вечеру превзошла по силе действующего чемпиона мира, продемонстрировав тактические приемы и жертвы фигур, которые никогда ранее не встречались в человеческой практике. --- ## 🧬 Научный прорыв: AlphaFold и загадка жизни [[JUMP:20:53]] Если футбольные роботы и шахматы остаются полигоном для испытаний, то в фундаментальной науке DeepMind уже совершила революцию, решив сложнейшую биологическую задачу — проблему сворачивания белков. Белки являются строительными блоками всего живого, но определение трехмерной структуры хотя бы одного из них классическими лабораторными методами могло занимать годы (биологи шутят, что на один белок уходила целая PhD-диссертация длиною в 5 лет). Расшифровка всех известных науке 200 миллионов белков традиционным путем заняла бы астрономический миллиард лет совокупной работы ученых. Алгоритм ИИ справился с этой задачей за секунды. На разработку архитектуры у DeepMind ушло около пяти лет, но после запуска система полностью просчитала структуру всех 200 миллионов белков. Области применения открытой базы данных белков: * Создание инновационных вакцин против малярии. * Разработка синтетических энзимов, способных расщеплять пластиковые отходы для спасения экологии. * Синтез принципиально новых типов антибиотиков для борьбы с супербактериями. Несмотря на эти успехи, современные системы остаются узкоспециализированными: футбольный робот не сможет составить список покупок, а медицинский алгоритм не поведет автомобиль. Главной же целью исследователей остается создание Сильного ИИ (Artificial General Intelligence — AGI) — машины, способной успешно обучаться абсолютно любым интеллектуальным задачам наравне с человеком. По мнению Демиса Хассабиса, хотя современные системы точно не обладают самосознанием, в будущем появление мыслящего и осознающего себя ИИ вполне возможно. --- ## ⚖️ Будущее цивилизации и этические рамки [[JUMP:25:36]] Параллельно в калифорнийских лабораториях Google инженеры под руководством Винсента Ванхука обучают роботов бытовым навыкам. Робот под номером 106, обученный на миллионах изображений, уже способен распознавать объекты на загроможденном кухонном столе и выполнять сложные комплексные команды, например, принести пользователю яблоко. Такой стремительный прогресс заставляет общество задаваться глубокими философскими вопросами. Джеймс Маника уверен, что ИИ не принижает и не обесценивает человечество, а напротив, расширяет наши возможности, наделяя людей своеобразными «суперсилами». Однако это заставляет нас заново переосмыслить, кто мы такие, в чем наши истинные ценности и что делает человека уникальным. Сундар Пичаи подытоживает, что в десятилетней перспективе появление сверхумных систем неизбежно, и человечеству жизненно необходимо выработать защитные механизмы. Необходимые меры регулирования ИИ: 1. **Законодательство**: оперативное внедрение государственных нормативных актов для контроля за экономическими последствиями автоматизации. 2. **Уголовное право**: создание законов, жестко карающих за злоупотребления технологиями (генерация дипфрейков, кибератаки). 3. **Международные соглашения**: подписание глобальных договоров между странами, аналогичных пактам о нераспространении ядерного оружия, для обеспечения безопасности ИИ на планетарном уровне. Этот процесс, именуемый в индустрии «выравниванием» (alignment), направлен на то, чтобы ценности искусственного интеллекта строго соответствовали человеческой морали. Пичаи убежден, что решать эти вопросы должны не коммерческие ИТ-корпорации единолично, а широкое консорциумное сообщество, включающее в себя не только инженеров, но также социологов, этиков и философов.