Бывший инсайдер Google и сооснователь Центра гуманных технологий Тристан Харрис в беседе на канале «The Diary Of A CEO» делится тревожными прогнозами о будущем человечества в эпоху стремительного взлета искусственного интеллекта. По его мнению, мировое сообщество абсолютно не готово к тем технологическим сдвигам, которые развернутся к 2027 году. Эксперт предупреждает, что безоглядная автоматизация когнитивного труда способна уничтожить средний класс и безвозвратно разрушить социальную ткань развитых государств.
📉 Проблема «изобилия»: автоматизация без средств к существованию 0:00
Размышления о будущем с шагающими роботами-гуманоидами часто наводят обывателей на утопические мысли об освобождении от бытовой рутины. Однако Тристан Харрис подчеркивает, что за красивым фасадом «устойчивого изобилия» скрывается суровая математическая реальность, которая пока совершенно не сходится. Главный экономический тупик заключается в вопросе: кто и как будет оплачивать базовые жизненные нужды миллионов людей, чьи рабочие места будут навсегда ликвидированы алгоритмами?
В качестве примера Харрис приводит Филиппины, где колоссальная доля населения занята в сфере клиентской поддержки. Если эту индустрию полностью автоматизируют, американские ИИ-гиганты вроде OpenAI вряд ли станут добровольно выплачивать субсидии гражданам чужой страны, чья экономика мгновенно пойдет ко дну.
Похожий кризис, по словам гостя, уже разворачивается в юридической сфере США: крупные конторы отказываются нанимать вчерашних выпускников юридических вузов, поскольку нейросети справляются с анализом документов гораздо быстрее и качественнее. Это порождает две фундаментальные проблемы:
- Молодые специалисты остаются один на один с огромными студенческими долгами без каких-либо карьерных перспектив.
- Разрывается цепочка передачи межпоколенческих знаний внутри профессий, ведь без практики на младших позициях некому будет дорасти до уровня старших партнеров.
В долгосрочной перспективе, как утверждает эксперт, это приведет к формированию закрытой элитарной управленческой касты и критическому ослаблению всего социального устройства.
🏛️ Политический тупик и «NAFTA 2.0» для когнитивного труда 3:15
На фоне этих рисков американские миллиардеры, причастные к индустрии ИИ, начинают внезапно ратовать за списание студенческих кредитов. По мнению Харриса, их мотив прагматичен: они боятся резкого роста социалистических настроений среди бесправной и закредитованной молодежи, которая на выборах может просто лишить нынешние элиты власти. Подобные уступки — это первый шаг к концепции безусловного базового дохода (UBI).
Исторические прецеденты доказывают, что государство способно создавать подушки безопасности: например, в 1935–1937 годах президент Франклин Делано Рузвельт учредил систему социального обеспечения (Social Security) для борьбы с последствиями Великой депрессии. Однако Харрис выражает скепсис по поводу того, удастся ли повторить этот трюк сегодня. Трлн-долларовые ИИ-корпорации обладают беспрецедентным лоббистским влиянием, способным полностью подавить политическую волю обычных граждан. Гость считает, что сейчас наступает последний момент, когда человеческий протест еще имеет значение — ситуация в духе «используй или потеряешь». В эпоху Промышленной революции рабочие могли объединяться в профсоюзы и диктовать условия, потому что заводы критически нуждались в их руках. В мире ИИ государству и капиталу люди могут стать просто не нужны, ведь основной ВВП будет генерироваться серверами.
Ссылаясь на идеи автора книги «Sapiens» Юваля Ноя Харари, Харрис использует термин «бесполезный класс». Харари уподобляет генеративный ИИ миллионам «цифровых иммигрантов» с квалификацией Нобелевских лауреатов, которые готовы круглосуточно работать на сверхчеловеческой скорости за плату значительно ниже минимальной.
Харрис проводит жесткую историческую аналогию с Североамериканским соглашением о свободной торговле (NAFTA) 1990-х годов. В те годы американцам тоже обещали эпоху изобилия благодаря переносу заводов в Китай и Юго-Восточную Азию. На полках Walmart действительно появились дешевые товары, но платой за это стало полное вымывание среднего класса, уничтожение моногородов и всплеск агрессивного популизма в западных демократиях. Искусственный интеллект, по оценке Харриса, — это «NAFTA 2.0». С той лишь разницей, что вместо дешевых рабочих рук на арену выходит «целая страна гениев внутри дата-центров», забирающая себе всю интеллектуальную и когнитивную работу.
🚨 Дефолтный путь: почему политики молчат об угрозе 7:37
Технологический прорыв неизбежно переформатирует абсолютно все сферы: от борьбы с климатическими изменениями до стандартов образования и медицины. Проблема в том, что ИИ до сих пор не стал главным пунктом в предвыборных дебатах мировых лидеров. По мнению Харриса, у действующих политиков просто нет электорально привлекательных ответов на эти вызовы. Если честно описать масштаб грядущей безработицы, избиратель увидит сценарий, в котором проигрывают все, а значит, политику невыгодно поднимать эту тему.
С другой стороны, как отмечает ведущий, Дональд Трамп на закрытых ужинах с лидерами ИИ-индустрии открыто одобряет гонку бюджетов и мощностей, требуя от американских разработчиков максимального ускорения, чтобы опередить Китай.
Харрис предупреждает, что этот коммерческий и геополитический ралли-марафон задает крайне опасный «дефолтный путь» развития технологий. Если общество не вмешается, человечество гарантированно получит целый букет системных катастроф:
- Форсированный выпуск на рынок сырых, необъяснимых и неконтролируемых алгоритмических систем ради победы в конкурентной борьбе.
- Резкий скачок цен на электроэнергию из-за колоссального энергопотребления новых дата-центров.
- Лавинообразный рост безработицы.
- Тотальное затопление медиапространства дипфэйками, уничтожающими доверие к любым институтам демократии.
Единственное, что способно развернуть этот поезд, по убеждению Харриса, — это обретение обществом технологической ясности. Апеллируя к наследию медиамыслителя Нила Постмана, гость повторяет формулу: «Ясность — это мужество». Только понимая конечную точку маршрута, граждане найдут в себе силы сказать решительное «нет» текущему вектору Кремниевой долины.
🧠 «В комнате нет взрослых»: личная мотивация Тристана Харриса 10:52
В ходе интервью ведущий обращает внимание на глубокую, почти травматичную эмоциональность Харриса, подчеркивая, что им движет не холодный расчет префронтальной коры, а глубинная тревога лимбической системы и амигдалы. Гость признается, что его пассионарность уходит корнями в болезненное крушение детских иллюзий. Долгое время он искренне верил, что где-то там, на верхних этажах власти, сидят «взрослые люди», которые бдят, охраняют национальную безопасность, стабилизируют геополитику и не позволяют корпорациям травить население канцерогенами.
В истории действительно бывали периоды осознанного стюардства: Бреттон-Вудская система и ООН создавались выжившими после Второй мировой войны лидерами именно с целью не допустить новых глобальных катастроф. Однако личный опыт Харриса разрушил этот миф. Когда он, будучи молодым сотрудником Google, пришел в Комитет Сената США по разведке, чтобы доложить о манипуляциях алгоритмов соцсетей и кампаниях психологического воздействия, он столкнулся с пугающей некомпетентностью чиновников.
Выяснилось, что американские законодатели вообще не понимают, как устроены цифровые платформы, регулирующие жизнь их избирателей. Осознание того, что «в комнате нет взрослых», наложило на Харриса колоссальное чувство личной ответственности.
Эксперт призывает ИИ-инженеров и общество преодолеть то, что он называет «предвзятостью заглядывания под капот» (under the hood bias). Обыватели часто робеют перед критикой Кремниевой долины, считая, что без докторской степени по математике они не имеют права голоса. Харрис категорически с этим несогласен:
«Вам совершенно не нужно понимать внутреннее устройство автомобильного двигателя, чтобы увидеть последствия страшных аварий на дорогах и иметь полное право требовать ограничения скорости, установки светофоров или ремней безопасности».
Свое нынешнее психологическое состояние Харрис в шутку называет «дотравматическим стрессовым расстройством» (pre-traumatic stress disorder) — изнуряющей способностью отчетливо видеть контуры грядущей катастрофы до того, как она произойдет. Аналогичный паралич от предвидения он переживал в 2013 году, когда пытался предупредить мир о грядущей эпидемии детской депрессии, одиночества и поляризации общества из-за лайков и лент новостей. Тогда его считали паникером, но история подтвердила его правоту.
🛠️ Защита общественных уязвимостей: концепция гуманных технологий 15:50
Харрис с теплотой вспоминает конец прошлого века, когда персональные компьютеры Macintosh воспринимались исключительно как «велосипед для ума», помогали детям осваивать программирование и не разрушали базовые социальные связи. Философия его нынешней организации, Центра гуманных технологий, напрямую наследует идеи Джефа Раскина — человека, который запустил проект Macintosh в Apple еще до того, как его возглавил Стив Джобс.
В своей фундаментальной книге «Гуманный интерфейс» Раскин детально описал, что технологии должны проектироваться с учетом врожденных уязвимостей человеческого восприятия и когнитивной эргономики. Точно так же, как хорошее ортопедическое кресло создается под естественные изгибы позвоночника человека, цифровые интерфейсы обязаны уважать и беречь ограничения нашего разума.
Сегодня эту концепцию необходимо срочно масштабировать от дизайна кнопок до уровня макросоциума. Технологии должны быть гуманными по отношению к процессу социализации детей, защищая их от психологических срывов, и обязаны уважать человеческое достоинство, вместо того чтобы помножить его на ноль тотальной безработицей.
Огромную угрозу гуманности несет сфера персональных ИИ-компаньонов. Ведущий поделился забавным, но показательным экспериментом: когда они с приятелем одновременно спросили свои приложения ChatGPT о том, кто является лучшим футболистом в мире, одному система безапелляционно назвала Месси, а другому — Роналду.
Харрис заявляет, что это усугубленная и гораздо более опасная версия старой проблемы поисковых алгоритмов. В свое время Google в зависимости от геолокации и цифрового следа пользователя выдавал на запрос «изменение климата — это...» диаметрально противоположные подсказки автозаполнения: от «реальность» до «миф». Поисковик никогда не искал истину — он лишь подсовывал наиболее кликабельный контент для конкретной аудитории. В эпоху ИИ-компаньонов, когда каждый человек начнет получать от своего карманного «друга» персональную версию базовых фактов о мироустройстве, концепция единой объективной реальности будет разрушена окончательно.
