# Эндрю Ын и Мириам Фогель: Как выстроить доверие к ИИ через управление, а не запреты Источник: https://www.youtube.com/watch?v=Q_mwaPOQxnc Канал: DeepLearning.AI Опубликовано: 05.12.2025 --- На конференции AI Dev 25 в Нью-Йорке состоялась панельная дискуссия, посвященная критическому дефициту доверия к технологиям искусственного интеллекта. В обсуждении приняли участие Эндрю Ын (Andrew Ng), основатель DeepLearning.AI и один из самых влиятельных ученых в области машинного обучения, и Мириам Фогель (Miriam Vogel), президент организации EqualAI и бывший советник Белого дома. Эксперты обсудили, почему общество боится технологий, как избыточное регулирование может убить инновации и почему «грамотность в сфере ИИ» важнее панических заголовков в СМИ. ## 🛡️ Ингредиенты доверия: управление и грамотность [[JUMP:00:14]] Разговор начался с признания парадоксальной ситуации: индустрия ИИ сама виновата в росте недоверия, используя «дистопию как маркетинговую стратегию» в 2023 году [00:14]. Мириам Фогель, автор книги о надежном ИИ, утверждает, что люди боятся технологий прежде всего потому, что не понимают, чем именно они пользуются [00:55]. Исходя из данных, представленных на панели, в то время как 80–90% компаний уже используют ИИ, менее 11% внедрили надежные механизмы управления (governance) [03:00]. По мнению Фогель, восстановление доверия требует реализации двух ключевых переменных: 1. **Управление ИИ (AI Governance):** Это не просто декларация принципов, а создание подотчетных рабочих процессов. Фогель настаивает, что управление подразумевает прозрачность «карточек моделей» (model cards), четкое ретестирование систем и ответственность на уровне руководства [03:24]. 2. **Грамотность в сфере ИИ (AI Literacy):** Эксперты доверяют ИИ больше, потому что знают его сильные и слабые стороны [02:30]. Фогель призывает «пригласить» в этот мир обычных людей — родителей, родственников, соседей — и честно обсуждать риски: от утечки данных до вытеснения рабочей силы ИИ-системами [01:49]. Эндрю Ын поддержал тезис о важности ответственного ИИ, но предостерег от излишнего «хайпа». Он отметил, что многие компании используют страх перед гипотетическими опасностями для продвижения антиконкурентных законов, направленных против открытого исходного кода (open source) [04:56]. ## ⚖️ Регулирование: защита или «театр безопасности»? [[JUMP:07:44]] Одной из самых острых тем дискуссии стало сравнение подходов к регулированию. Эндрю Ын подверг резкой критике закон Евросоюза об ИИ (EU AI Act), назвав его «неудачным» [07:59]. По его мнению, европейские регуляторы совершают ошибку, пытаясь стать мировыми лидерами не в инновациях, а в ограничениях. Ын утверждает, что невозможно лидировать в ИИ, замедляя его развитие регуляциями [08:11]. В контексте США участники обсудили спектр подходов различных компаний: * **Anthropic:** По мнению ведущего, компания задает «золотой стандарт» в области детализации системных карт и тестирования безопасности (red teaming). Однако Эндрю Ын выразил скепсис по отношению к методам, за которые выступает Anthropic, назвав некоторые из них избыточными [07:32]. * **OpenAI:** Было отмечено, что компания, ранее уделявшая много внимания безопасности, сейчас, по мнению критиков, снизила стандарты (многие ключевые специалисты по безопасности перешли в Anthropic) [09:18]. * **xAI (Илона Маска):** Ведущий охарактеризовал подход компании как полное отсутствие ограничений [09:31]. Эндрю Ын выразил обеспокоенность тем, что результаты тестирования безопасности (red teaming) часто превращаются в «медийные сенсации». В качестве примера он привел случай с Anthropic, чья модель якобы «шантажировала» пользователя. Ын подчеркнул: если прочитать детальный отчет, становится ясно, что для достижения такого результата потребовались сложнейшие манипуляции, но СМИ преподнесли это как врожденную опасность ИИ [06:38]. ## 🧪 Песочницы против бюрократии [[JUMP:11:13]] Мириам Фогель подчеркнула, что управление ИИ — это не только этический вопрос, но и бизнес-стратегия. Ссылаясь на исследование McKinsey («2025 Study»), она заявила, что вовлеченность генерального директора (CEO) в вопросы управления ИИ является главным индикатором коммерческого успеха инструментов генеративного интеллекта в компании [10:34]. Эндрю Ын предложил практическое решение для компаний, которые боятся замедления разработки из-за процедур комплаенса: * **Создание изолированных «песочниц»:** Инженерам разрешается быстро экспериментировать внутри закрытого контура компании без санкций юристов и маркетологов [12:32]. * **Ограничения внутри песочницы:** Запрет на использование конфиденциальных данных, лимит на бюджет в токенах (например, до $100,000) и запрет на публикацию результатов под брендом компании до полной проверки [12:19]. * **Масштабирование:** Только после того, как прототип доказал свою ценность, в него инвестируют ресурсы для обеспечения безопасности и надежности по всем корпоративным стандартам [12:45]. ## 🗽 Битва за таланты и открытый код [[JUMP:16:42]] В завершение дискуссии Эндрю Ын назвал главным препятствием для развития ИИ в США не технические проблемы, а антииммиграционную риторику [16:42]. Будучи сам иммигрантом, прибывшим в страну по студенческой визе F1, Ын подчеркнул важность привлечения талантов. В ходе опроса аудитории (инженеров ИИ) выяснилось, что подавляющее большинство присутствующих также родились за пределами США [17:39]. Что касается будущего регулирования, спикеры отметили [14:42]: * На федеральном уровне в США пока нет специфических законов об ИИ, хотя обсуждался 10-летний мораторий на региональное законодательство [15:24]. * Основная борьба переместилась на уровень штатов: за прошлый год было предложено около 1000 законопроектов, касающихся ИИ [15:11]. * Калифорния приняла первый в своем роде закон, регулирующий «фронтирные модели» и требования к безопасности, что эксперты оценили как умеренный, но важный шаг [14:56]. Мириам Фогель резюмировала: «Мы потерпим неудачу, если не изменим общественные настроения. Люди не станут доверять системам ИИ, пока мы не дадим им веских причин для этого» [19:40].