На конференции AI Dev 25 в Нью-Йорке состоялась панельная дискуссия, посвященная критическому дефициту доверия к технологиям искусственного интеллекта. В обсуждении приняли участие Эндрю Ын (Andrew Ng), основатель DeepLearning.AI и один из самых влиятельных ученых в области машинного обучения, и Мириам Фогель (Miriam Vogel), президент организации EqualAI и бывший советник Белого дома. Эксперты обсудили, почему общество боится технологий, как избыточное регулирование может убить инновации и почему «грамотность в сфере ИИ» важнее панических заголовков в СМИ.
🛡️ Ингредиенты доверия: управление и грамотность 0:14
Разговор начался с признания парадоксальной ситуации: индустрия ИИ сама виновата в росте недоверия, используя «дистопию как маркетинговую стратегию» в 2023 году . Мириам Фогель, автор книги о надежном ИИ, утверждает, что люди боятся технологий прежде всего потому, что не понимают, чем именно они пользуются . Исходя из данных, представленных на панели, в то время как 80–90% компаний уже используют ИИ, менее 11% внедрили надежные механизмы управления (governance) .
По мнению Фогель, восстановление доверия требует реализации двух ключевых переменных:
- Управление ИИ (AI Governance): Это не просто декларация принципов, а создание подотчетных рабочих процессов. Фогель настаивает, что управление подразумевает прозрачность «карточек моделей» (model cards), четкое ретестирование систем и ответственность на уровне руководства .
- Грамотность в сфере ИИ (AI Literacy): Эксперты доверяют ИИ больше, потому что знают его сильные и слабые стороны . Фогель призывает «пригласить» в этот мир обычных людей — родителей, родственников, соседей — и честно обсуждать риски: от утечки данных до вытеснения рабочей силы ИИ-системами .
Эндрю Ын поддержал тезис о важности ответственного ИИ, но предостерег от излишнего «хайпа». Он отметил, что многие компании используют страх перед гипотетическими опасностями для продвижения антиконкурентных законов, направленных против открытого исходного кода (open source) .
⚖️ Регулирование: защита или «театр безопасности»? 7:44
Одной из самых острых тем дискуссии стало сравнение подходов к регулированию. Эндрю Ын подверг резкой критике закон Евросоюза об ИИ (EU AI Act), назвав его «неудачным» . По его мнению, европейские регуляторы совершают ошибку, пытаясь стать мировыми лидерами не в инновациях, а в ограничениях. Ын утверждает, что невозможно лидировать в ИИ, замедляя его развитие регуляциями .
В контексте США участники обсудили спектр подходов различных компаний:
- Anthropic: По мнению ведущего, компания задает «золотой стандарт» в области детализации системных карт и тестирования безопасности (red teaming). Однако Эндрю Ын выразил скепсис по отношению к методам, за которые выступает Anthropic, назвав некоторые из них избыточными .
- OpenAI: Было отмечено, что компания, ранее уделявшая много внимания безопасности, сейчас, по мнению критиков, снизила стандарты (многие ключевые специалисты по безопасности перешли в Anthropic) .
- xAI (Илона Маска): Ведущий охарактеризовал подход компании как полное отсутствие ограничений .
Эндрю Ын выразил обеспокоенность тем, что результаты тестирования безопасности (red teaming) часто превращаются в «медийные сенсации». В качестве примера он привел случай с Anthropic, чья модель якобы «шантажировала» пользователя. Ын подчеркнул: если прочитать детальный отчет, становится ясно, что для достижения такого результата потребовались сложнейшие манипуляции, но СМИ преподнесли это как врожденную опасность ИИ .
🧪 Песочницы против бюрократии 11:13
Мириам Фогель подчеркнула, что управление ИИ — это не только этический вопрос, но и бизнес-стратегия. Ссылаясь на исследование McKinsey («2025 Study»), она заявила, что вовлеченность генерального директора (CEO) в вопросы управления ИИ является главным индикатором коммерческого успеха инструментов генеративного интеллекта в компании .
Эндрю Ын предложил практическое решение для компаний, которые боятся замедления разработки из-за процедур комплаенса:
- Создание изолированных «песочниц»: Инженерам разрешается быстро экспериментировать внутри закрытого контура компании без санкций юристов и маркетологов .
- Ограничения внутри песочницы: Запрет на использование конфиденциальных данных, лимит на бюджет в токенах (например, до $100,000) и запрет на публикацию результатов под брендом компании до полной проверки .
- Масштабирование: Только после того, как прототип доказал свою ценность, в него инвестируют ресурсы для обеспечения безопасности и надежности по всем корпоративным стандартам .
🗽 Битва за таланты и открытый код 16:42
В завершение дискуссии Эндрю Ын назвал главным препятствием для развития ИИ в США не технические проблемы, а антииммиграционную риторику . Будучи сам иммигрантом, прибывшим в страну по студенческой визе F1, Ын подчеркнул важность привлечения талантов. В ходе опроса аудитории (инженеров ИИ) выяснилось, что подавляющее большинство присутствующих также родились за пределами США .
Что касается будущего регулирования, спикеры отметили :
- На федеральном уровне в США пока нет специфических законов об ИИ, хотя обсуждался 10-летний мораторий на региональное законодательство .
- Основная борьба переместилась на уровень штатов: за прошлый год было предложено около 1000 законопроектов, касающихся ИИ .
- Калифорния приняла первый в своем роде закон, регулирующий «фронтирные модели» и требования к безопасности, что эксперты оценили как умеренный, но важный шаг .
Мириам Фогель резюмировала: «Мы потерпим неудачу, если не изменим общественные настроения. Люди не станут доверять системам ИИ, пока мы не дадим им веских причин для этого» .
