ИИ, «культура отмены» и «ядерные» алгоритмы: интервью с Педро Домингосом 0:00
Профессор Педро Домингос — известный эксперт в области искусственного интеллекта, автор книги «Верховный алгоритм» (The Master Algorithm) — стал гостем подкаста Machine Learning Street Talk. В ходе масштабного 94-минутного разговора с ведущим Тимом Скарфом и экспертами Китом Даггаром и Яником Килчером обсуждались не только глубокие технические аспекты машинного обучения, но и острая социально-политическая повестка: «культура отмены», идеологическое давление в научном сообществе и природа интеллектуальной свободы.
🚫 Феномен «культуры отмены» и борьба за свободу слова 5:27
Педро Домингос описывает «культуру отмены» не как серию разрозненных инцидентов, а как глубоко укоренившуюся идеологическую культуру. По мнению гостя, этот феномен представляет собой попытку радикальных групп навязать свою повестку через цензуру дискуссий.
- Природа явления: Домингос сравнивает «культуру отмены» с раковой опухолью, которая достаточно организована, чтобы уничтожить организм-носитель (общество).
- Идеологические корни: Ведущий и гость сошлись во мнении, что значительная часть этого движения опирается на идеи постмодернистов, в частности Мишеля Фуко, для которых объективной реальности не существует, а всё мироустройство сводится к бинарным оппозициям «угнетатель — угнетённый».
- Последствия для науки: Одним из примеров давления в ML-сообществе Домингос называет требования «заявлений о более широком влиянии» (broader impact statements) в статьях для конференции NeurIPS. Он считает это политическим фильтром, который под прикрытием этики требует от учёных подтверждения своей лояльности определённым взглядам.
Домингос предлагает бороться с этим явлением, активно сопротивляясь: он призывает не уходить в тень, не извиняться и, при необходимости, «поворачивать оружие против них», используя методы давления на организации, которые позволяют моби заниматься травлей. Ведущие отнеслись к идее «борьбы огнём с огнём» скептически, опасаясь легитимизации самих методов травли.
⚖️ Искусственный интеллект, справедливость и данные 23:09
Обсуждение справедливости (fairness) в ИИ выявило фундаментальное расхождение в подходах.
- Позиция Домингоса: Машинное обучение должно стремиться к максимально точному отражению реальности. Вмешательство в данные с целью «социальной инженерии» (например, принудительное уравнивание результатов алгоритма для разных групп) является искажением самой сути ИИ.
- Спор о переменных: Домингос утверждает, что все доступные переменные (включая пол или расу) должны быть допустимы для использования моделью, если они статистически значимы. Он называет попытки игнорировать или принудительно «корректировать» эти факторы проявлением идеологического подхода, который лишь препятствует реальной персонализации.
- Аргументы критиков: Кит Даггар привёл контрпример: если исторические данные о найме сотрудников предвзяты против определённых групп, модель унаследует эти искажения. Решением, по мнению Даггара, должны быть прозрачные общественные дебаты о том, какие данные допустимо использовать для конкретных задач.
🧠 Deep Learning как «Kernel Machines» 1:15:16
Техническая часть беседы была посвящена недавней работе Домингоса «Deep Networks are Kernel Machines». Основной тезис статьи заключается в попытке объединить «трибализм» в ИИ, показав, что глубокие нейронные сети по своей сути являются частным случаем ядерных методов.
- Механика весов: По словам Домингоса, нейронные сети не являются «чёрными ящиками» в той степени, в какой это принято считать. На самом деле, нейросеть «суперпозиционирует» обучающие примеры внутри своих весов, выполняя работу, похожую на запоминание базы данных, но в гораздо более сжатом и эффективном виде.
- Важность архитектуры: Профессор подчеркнул, что начальная случайная конфигурация сети и её архитектура играют определяющую роль в обобщающей способности (generalization) модели.
- Путь к AGI: В финале обсуждения Домингос представил две точки зрения на будущее ИИ. Пессимистичная заключается в том, что мы всё ещё далеки от настоящего обучения представлений, так как современные методы лишь варьируют идеи «ближайшего соседа». Оптимистичная — в том, что, возможно, человеческий мозг работает по схожим с текущими моделями принципам, и мы гораздо ближе к общему искусственному интеллекту (AGI), чем кажется.
