Исследователь Гарвардского университета и эксперт в области искусственного интеллекта Джонатан Ричард Шварц ответил на вопросы широкой публики, охватив темы от внутреннего устройства нейросетей до этических дилемм и влияния технологий на климат. В ходе дискуссии были затронуты критические вопросы предвзятости алгоритмов в медицине, риски монополизации технологий крупными корпорациями и вызовы, с которыми сталкиваются творческие индустрии в эпоху генеративного контента.
🛠️ Три столпа ИИ: как создаются современные алгоритмы 0:26
По словам Джонатана Шварца, разработка искусственного интеллекта базируется на трех фундаментальных компонентах :
- Программное обеспечение: Хотя базовый код может быть написан на обычном ноутбуке (чаще всего используется язык Python), «секретный ингредиент» кроется в сложных алгоритмах, разрабатываемых учеными или частными компаниями .
- Данные: Для обучения нейросетей требуются колоссальные объемы информации. Процесс обучения заключается в многократном прохождении через эти наборы данных, где система делает крошечные шаги к улучшению выполнения задачи .
- Вычислительные мощности: Для работы с самыми сложными системами требуются дорогостоящие кластеры оборудования и ускорители.
Шварц подчеркивает, что процесс обучения передовых моделей может занимать недели и месяцы, а его стоимость варьируется от сотен миллионов до миллиардов долларов .
⚖️ Регулирование и правовые барьеры 1:43
Вопрос о том, как не допустить попадания ИИ в «плохие руки», сейчас находится в центре внимания мировых правительств. Эксперт выделил три ключевые инициативы :
- Саммит по безопасности ИИ (AI Safety Summit) в Великобритании.
- Исполнительный указ администрации Байдена-Харрис в США.
- Закон об ИИ (AI Act) Европейского союза, который может стать первой в мире комплексной правовой базой для этой сферы.
Джонатан Шварц указывает на сложную дилемму: недостаток регулирования чреват злоупотреблениями, но избыточное регулирование может привести к концентрации экономического потенциала ИИ в руках всего нескольких игроков, что лишит общество многих преимуществ технологии .
🏥 ИИ в медицине: спасение жизней и скрытые угрозы 2:48
Применение ИИ в здравоохранении охватывает весь жизненный путь человека. Шварц отметил перспективные направления: анализ побочных эффектов при одновременном приеме нескольких лекарств, диагностику рентгеновских снимков грудной клетки и раннее выявление заболеваний глаз .
Однако эксперт выразил серьезную обеспокоенность проблемой предвзятости (bias) и справедливости алгоритмов. Исследования показывают, что системы могут демонстрировать высокую точность «в среднем», но давать сбои в подкатегориях .
В качестве примера Шварц привел анализ нейросетей для оценки рентгеновских снимков:
- Системы чаще ошибочно признавали пациентов здоровыми (самый опасный тип ошибки), если речь шла о молодых людях, темнокожих пациентах, женщинах или людях с государственной медицинской страховкой .
- По мнению Шварца, это подчеркивает необходимость разработки строгих этических стандартов до того, как системы будут массово внедрены в клиниках .
🎓 Образование и будущее молодого поколения 4:21
Для современных подростков ИИ станет неотъемлемой частью жизни не через 30 лет, а «немедленно». Шварц полагает, что инструменты вроде ChatGPT радикально меняют систему образования .
С одной стороны, возникает вопрос честной проверки знаний, с другой — открывается возможность создания «персонализированных ассистентов». Такие системы смогут объяснять концепции каждому ученику индивидуально, на что у обычного учителя часто не хватает времени .
Эксперт рекомендует молодежи развивать критическое мышление:
- Вероятность того, что контент в сети создан не человеком, будет только расти .
- Важно задаваться вопросом о намерениях создателей контента и о том, можно ли ему доверять .
🧠 Этика, философия и проблема «выравнивания» 6:05
Если раньше вопросы о сознании и разумности ИИ были чисто теоретическими, то сейчас этика перешла в плоскость прикладных задач . Одной из центральных проблем Шварц называет «выравнивание ИИ» (AI alignment) — стремление заставить систему действовать в соответствии с моральными ценностями человечества .
Главный риск здесь носит политический характер: кто именно должен определять эти «человеческие ценности»? Шварц считает, что это не может быть решением только инженеров или руководителей корпораций — это вопрос общественного договора, в котором должны участвовать как демократические институты, так и гражданское общество .
🔓 Доступ к технологиям: открытость против безопасности 7:41
Шварц раскрыл малоизвестный факт: даже многие ученые и инженеры не имеют доступа ко всем формам ИИ. Часто исследователи видят только готовую систему, но не имеют доступа к математическим деталям или ресурсам для воспроизведения модели .
Основные позиции в споре об открытости технологий:
- За открытый доступ: Это стимулирует конкуренцию, создание стартапов и позволяет независимым экспертам проверять системы на безопасность, не полагаясь на честное слово корпораций .
- Против открытого доступа: Злоумышленники могут использовать открытые модели в деструктивных целях .
Шварц полагает, что истина находится посередине, но подчеркивает, что ученым, работающим над проблемами климата и медицины, должен быть предоставлен максимально широкий доступ к инструментам ИИ .
🌍 Климатический кризис: инструмент спасения или угроза? 10:17
ИИ помогает в борьбе с изменениями климата через проекты «наукастинга» (краткосрочного прогнозирования погоды на 2 часа вперед), что критически важно при наводнениях . Сам Шварц участвовал в разработке систем сжатия климатических данных, что позволило ученым быстрее обмениваться огромными массивами информации .
Однако существует и обратная сторона:
- Обучение гигантских моделей в течение месяцев потребляет колоссальное количество электроэнергии .
- По мнению эксперта, перед инженерами стоит задача научиться обучать ИИ эффективнее, чтобы польза от технологии не перекрывалась углеродным следом от её создания .
🎨 Искусство и рынок труда: столкновение с реальностью 12:15
Хотя ИИ уже способен создавать изображения, неотличимые от работ художников, Шварц отмечает растущее напряжение в творческой среде. Он упомянул забастовки в Голливуде как реакцию на страх displacement (замещения) людей технологиями .
Эксперт привел примеры «плохого использования» ИИ: использование лиц актеров в видеоиграх без разрешения или клонирование голосов для озвучки книг . В то же время он призывает к коллаборации, упоминая театральные пьесы и музыкальные произведения, созданные в соавторстве с ИИ .
