Демократия под прицелом ИИ: Лекция Лоуренса Лессига в Стэнфорде 1:44
В рамках курса Стэнфордского университета, посвященного взаимосвязи технологий и государственного управления, известный эксперт по праву и лидерству в Гарвардской школе права Лоуренс Лессиг выступил с критическим анализом состояния современной демократии. Главный тезис выступления заключается в том, что демократические институты США сегодня находятся под угрозой не только из-за поляризации общества, но и вследствие деятельности «аналоговых» и «цифровых» систем искусственного интеллекта (ИИ), которые подрывают способность граждан к рациональному принятию решений.
🤖 «Аналоговый ИИ» против демократии 6:42
Лессиг предлагает концепцию «аналогового ИИ» — институтов, действующих с инструментальной рациональностью ради достижения определенной цели. К ним он относит:
- Демократию: её целью является формирование «более совершенного союза» и служение общему благу.
- Корпорации: их целью, согласно теории Фридмана, является максимизация акционерной стоимости.
По мнению лектора, в текущей реальности корпорации стали более эффективными «аналоговыми ИИ», чем само правительство. Они фактически контролируют демократические процессы через систему политических лобби, суперкомитетов политического действия (Super PACs) и искажение системы представительства (например, через джерримендеринг). Лессиг ссылается на слова «крестного отца» ИИ Джеффри Хинтона о том, что почти не существует примеров, когда более разумная сущность добровольно подчиняется менее разумной. Сегодня корпорации превосходят государственные институты в достижении своих целей, что делает саму демократию заложником бизнес-интересов.
🧠 «Взлом мозга» и поляризация общества 12:43
Переходя к цифровому ИИ, Лессиг отмечает, что социальные сети первыми продемонстрировали разрушительное влияние на общественное восприятие. Ссылаясь на работу Тристана Харриса из «Центра гуманных технологий» (Center for Humane Technology), автор называет этот процесс «взломом мозга» (brain hacking).
- Бизнес-модель: платформы строятся на вовлечении пользователей, эксплуатируя эволюционные механизмы пристрастия к случайным наградам и потреблению контента.
- Результат: алгоритмы отдают предпочтение экстремальному, поляризующему и агрессивному контенту, так как именно он удерживает внимание.
Лессиг подчеркивает: алгоритмы не навязывают нам то, чего мы не хотим, — они дают нам именно то, что мы желаем потреблять, что делает нас «поляризованными, невежественными и злыми». По его мнению, демократия в США уже «взломана» этим механизмом, который действует задолго до появления полноценного общего искусственного интеллекта (AGI).
⚖️ Путь к спасению: Гражданские ассамблеи 17:15
В качестве стратегии спасения демократии Лессиг предлагает «перевести» её на более защищенную почву. Вдохновением служат юридические процедуры, такие как суд присяжных, где дискуссия защищена от внешнего манипулирования и опирается на доказательства.
Примерами успешного внедрения этой практики автор считает:
- Ирландию: где случайные группы из 99 граждан помогли парламенту разрешить вопросы абортов и однополых браков.
- Францию: где президент Макрон использовал гражданские ассамблеи для обсуждения вопросов климата и конца жизни.
Лессиг считает, что демократия в США нуждается в аналогичных институтах, чтобы защитить волю народа от манипулятивного воздействия ИИ и коммерческих интересов.
💸 Проблема «Ветократии» 26:16
Описывая политический паралич в США, Лессиг использует термин Фрэнсиса Фукуямы — «ветократия». Это система, где небольшое количество акторов имеет право блокировать любые важные решения. По мнению лектора, это усугубляется двумя факторами:
- Поляризация по идентичности: любое предложение становится «вражеским», если оно исходит от другой партии, что делает компромисс невозможным.
- Деньги в политике: Super PACs не только покупают влияние, но и угрожают спонсировать конкурентов любого политика, который проявит независимость.
Лессиг отмечает, что китайское правительство активно использует критику американской «ветократии» как доказательство превосходства собственной модели управления, способной к быстрой реализации инфраструктурных проектов, таких как высокоскоростные железные дороги.
