# Гарвардский эксперт ответил на вопросы об ИИ: от стоимости обучения до климатических рисков

Источник: https://www.youtube.com/watch?v=m0Rs0bzab94
Канал: The Royal Institution
Опубликовано: 20.12.2023

---

Исследователь Гарвардского университета и эксперт в области искусственного интеллекта Джонатан Ричард Шварц ответил на вопросы широкой публики, охватив темы от внутреннего устройства нейросетей до этических дилемм и влияния технологий на климат. В ходе дискуссии были затронуты критические вопросы предвзятости алгоритмов в медицине, риски монополизации технологий крупными корпорациями и вызовы, с которыми сталкиваются творческие индустрии в эпоху генеративного контента.

## 🛠️ Три столпа ИИ: как создаются современные алгоритмы
[[JUMP:00:26]]

По словам Джонатана Шварца, разработка искусственного интеллекта базируется на трех фундаментальных компонентах [00:40]:

*   **Программное обеспечение:** Хотя базовый код может быть написан на обычном ноутбуке (чаще всего используется язык Python), «секретный ингредиент» кроется в сложных алгоритмах, разрабатываемых учеными или частными компаниями [01:05].
*   **Данные:** Для обучения нейросетей требуются колоссальные объемы информации. Процесс обучения заключается в многократном прохождении через эти наборы данных, где система делает крошечные шаги к улучшению выполнения задачи [01:17].
*   **Вычислительные мощности:** Для работы с самыми сложными системами требуются дорогостоящие кластеры оборудования и ускорители.

Шварц подчеркивает, что процесс обучения передовых моделей может занимать недели и месяцы, а его стоимость варьируется от сотен миллионов до миллиардов долларов [01:30].

## ⚖️ Регулирование и правовые барьеры
[[JUMP:01:43]]

Вопрос о том, как не допустить попадания ИИ в «плохие руки», сейчас находится в центре внимания мировых правительств. Эксперт выделил три ключевые инициативы [01:58]:

1.  Саммит по безопасности ИИ (AI Safety Summit) в Великобритании.
2.  Исполнительный указ администрации Байдена-Харрис в США.
3.  Закон об ИИ (AI Act) Европейского союза, который может стать первой в мире комплексной правовой базой для этой сферы.

Джонатан Шварц указывает на сложную дилемму: недостаток регулирования чреват злоупотреблениями, но избыточное регулирование может привести к концентрации экономического потенциала ИИ в руках всего нескольких игроков, что лишит общество многих преимуществ технологии [02:22].

## 🏥 ИИ в медицине: спасение жизней и скрытые угрозы
[[JUMP:02:48]]

Применение ИИ в здравоохранении охватывает весь жизненный путь человека. Шварц отметил перспективные направления: анализ побочных эффектов при одновременном приеме нескольких лекарств, диагностику рентгеновских снимков грудной клетки и раннее выявление заболеваний глаз [03:15].

Однако эксперт выразил серьезную обеспокоенность проблемой предвзятости (bias) и справедливости алгоритмов. Исследования показывают, что системы могут демонстрировать высокую точность «в среднем», но давать сбои в подкатегориях [03:40].

В качестве примера Шварц привел анализ нейросетей для оценки рентгеновских снимков:

*   Системы чаще ошибочно признавали пациентов здоровыми (самый опасный тип ошибки), если речь шла о молодых людях, темнокожих пациентах, женщинах или людях с государственной медицинской страховкой [03:54].
*   По мнению Шварца, это подчеркивает необходимость разработки строгих этических стандартов до того, как системы будут массово внедрены в клиниках [04:08].

## 🎓 Образование и будущее молодого поколения
[[JUMP:04:21]]

Для современных подростков ИИ станет неотъемлемой частью жизни не через 30 лет, а «немедленно». Шварц полагает, что инструменты вроде ChatGPT радикально меняют систему образования [04:34].

С одной стороны, возникает вопрос честной проверки знаний, с другой — открывается возможность создания «персонализированных ассистентов». Такие системы смогут объяснять концепции каждому ученику индивидуально, на что у обычного учителя часто не хватает времени [04:47].

Эксперт рекомендует молодежи развивать критическое мышление:

*   Вероятность того, что контент в сети создан не человеком, будет только расти [05:39].
*   Важно задаваться вопросом о намерениях создателей контента и о том, можно ли ему доверять [05:52].

## 🧠 Этика, философия и проблема «выравнивания»
[[JUMP:06:05]]

Если раньше вопросы о сознании и разумности ИИ были чисто теоретическими, то сейчас этика перешла в плоскость прикладных задач [06:18]. Одной из центральных проблем Шварц называет «выравнивание ИИ» (AI alignment) — стремление заставить систему действовать в соответствии с моральными ценностями человечества [06:45].

Главный риск здесь носит политический характер: кто именно должен определять эти «человеческие ценности»? Шварц считает, что это не может быть решением только инженеров или руководителей корпораций — это вопрос общественного договора, в котором должны участвовать как демократические институты, так и гражданское общество [07:12].

## 🔓 Доступ к технологиям: открытость против безопасности
[[JUMP:07:41]]

Шварц раскрыл малоизвестный факт: даже многие ученые и инженеры не имеют доступа ко всем формам ИИ. Часто исследователи видят только готовую систему, но не имеют доступа к математическим деталям или ресурсам для воспроизведения модели [07:55].

Основные позиции в споре об открытости технологий:

*   **За открытый доступ:** Это стимулирует конкуренцию, создание стартапов и позволяет независимым экспертам проверять системы на безопасность, не полагаясь на честное слово корпораций [08:33].
*   **Против открытого доступа:** Злоумышленники могут использовать открытые модели в деструктивных целях [09:01].

Шварц полагает, что истина находится посередине, но подчеркивает, что ученым, работающим над проблемами климата и медицины, должен быть предоставлен максимально широкий доступ к инструментам ИИ [09:13].

## 🌍 Климатический кризис: инструмент спасения или угроза?
[[JUMP:10:17]]

ИИ помогает в борьбе с изменениями климата через проекты «наукастинга» (краткосрочного прогнозирования погоды на 2 часа вперед), что критически важно при наводнениях [10:30]. Сам Шварц участвовал в разработке систем сжатия климатических данных, что позволило ученым быстрее обмениваться огромными массивами информации [10:57].

Однако существует и обратная сторона:

*   Обучение гигантских моделей в течение месяцев потребляет колоссальное количество электроэнергии [11:49].
*   По мнению эксперта, перед инженерами стоит задача научиться обучать ИИ эффективнее, чтобы польза от технологии не перекрывалась углеродным следом от её создания [12:01].

## 🎨 Искусство и рынок труда: столкновение с реальностью
[[JUMP:12:15]]

Хотя ИИ уже способен создавать изображения, неотличимые от работ художников, Шварц отмечает растущее напряжение в творческой среде. Он упомянул забастовки в Голливуде как реакцию на страх displacement (замещения) людей технологиями [13:20].

Эксперт привел примеры «плохого использования» ИИ: использование лиц актеров в видеоиграх без разрешения или клонирование голосов для озвучки книг [13:34]. В то же время он призывает к коллаборации, упоминая театральные пьесы и музыкальные произведения, созданные в соавторстве с ИИ [12:54].

------