В эпоху стремительного развития технологий общество охвачено либо слепой верой в могущество алгоритмов, либо иррациональным страхом перед ними. Известный немецкий психолог, директор emeritus Института человеческого развития Общества Макса Планка Герд Гигеренцер (Gerd Gigerenzer) в рамках проекта Talks at Google представил свою книгу «How to Stay Smart in a Smart World». В своем выступлении ученый развенчивает популярные мифы о Кремниевой долине и объясняет, почему в условиях реальной неопределенности человеческая интуиция и простые правила принятия решений до сих пор оказываются эффективнее самых сложных вычислительных моделей.
🔮 Границы искусственного интеллекта: принцип стабильного мира 0:00
Развитие систем машинного обучения за последние десять лет заставило многих поверить в безграничные возможности ИИ. Однако Герд Гигеренцер предлагает четкое разграничение сфер эффективности человека и компьютера, основанное на «принципе стабильного мира».
По определению спикера, сложные алгоритмы и огромные массивы данных идеальны в стабильных ситуациях, где «завтра похоже на вчера», а правила игры неизменны. Именно поэтому ИИ демонстрирует феноменальные успехи в шахматах или го.
В то же время реальная жизнь наполнена высокой неопределенностью. Человеческий разум эволюционировал именно для того, чтобы справляться с непредсказуемым поведением других людей, природными катаклизмами и скрытыми угрозами.
Одним из главных преимуществ человеческого интеллекта исследователь называет способность понимать, какую информацию необходимо игнорировать. В нестабильном мире избыток данных не помогает, а лишь увеличивает системный шум. Современное же машинное обучение, по мнению Гигеренцера, совершает фундаментальную ошибку, полностью уходя в чистую статистику и регуляризацию, игнорируя психологические механизмы работы мозга.
🦠 Провал больших данных: кейс Google Flu Trends против простых эвристик 5:55
Классическим примером иллюзии превосходства Big Data стал проект Google Flu Trends (GFT), запущенный с целью прогнозирования распространения гриппа быстрее, чем это делали официальные Центры по контролю и профилактике заболеваний США (CDC). Инженеры Google протестировали более 400 миллионов моделей на базе 50 миллионов поисковых запросов.
Алгоритм GFT успешно работал до тех пор, пока в 2009 году не произошло непредвиденное событие — пандемия свиного гриппа. Вирусы и поведение людей в сети не подчиняются законам стабильного мира. Сложная модель Google оказалась неповоротливым «танкером»: она привыкла, что пик заболеваемости приходится на зиму, а свиной грипп пришел в марте и распространялся летом. В итоге алгоритм катастрофически недооценил реальные масштабы эпидемии.
В качестве альтернативы исследователи из Института Макса Планка совместно с британскими коллегами разработали подход, названный «психологическим ИИ». Ученые применили «эвристику новизны» (recency heuristic) — простейший алгоритм, который прогнозирует число визитов к врачу на следующей неделе исключительно по одному последнему показателю (данным за прошлую неделю).
Результаты исследования оказались показательными:
- Простая эвристика полностью проигнорировала прошлые многолетние тренды.
- Модель базировалась всего на одной актуальной точке данных.
- На протяжении всех 8 лет работы Google Flu Trends простейший алгоритм предсказывал волны гриппа значительно точнее, чем постоянно обновляемые инженерные модели больших данных.
По словам Гигеренцера, вместо упрощения алгоритма после неудачи инженеры Google пошли по пути его усложнения. Это типичная ошибка, вызванная непониманием того, что в условиях жесткой неопределенности спасает только простота.
⚖️ Алгоритмы в судах и медицине: иллюзия сложности и прозрачность 11:50
Попытки применить искусственный интеллект для прогнозирования человеческого поведения часто сталкиваются с непреодолимыми трудностями. Спикер отмечает, что в таких деликатных сферах, как оценка риска рецидивизма среди заключенных, сложные проприетарные алгоритмы («черные ящики») не имеют преимуществ перед прозрачными पॉइंट-системами.
Многочисленные исследования подтверждают, что простые модели, учитывающие всего две-три переменные (возраст, пол и количество предыдущих судимостей), работают так же точно, как и коммерческий софт со скрытым кодом. При этом простые алгоритмы обладают критически важным свойством — транспарентностью.
Герд Гигеренцер, имеющий опыт обучения федеральных судей в США, утверждает, что юристы без математического образования склонны воспринимать сложные алгоритмы как «хрустальный шар» предсказателя. Они поддаются «иллюзии сложности», полагая, что дорогой и непонятный продукт априори эффективнее.
Аналогичный кризис доверия происходит и в медицине. Спикер напомнил о провале амбициозной системы IBM Watson Oncology, которая должна была подбирать методы лечения рака. Программа выдавала врачам рекомендации, которые казались им странными или опасными, но не могла объяснить логику своих выводов, из-за чего многие медицинские центры расторгли контракты с IBM.
Гигеренцер выделяет следующие преимущества простых алгоритмов перед Explainable AI (объяснимым ИИ):
- Они полностью исключают проблему «черного ящика», так как логика дерева решений видна изначально.
- Они позволяют мгновенно обнаружить скрытую дискриминацию (например, расовую предвзятость), поскольку все переменные открыты.
- Они возвращают доверие специалистов (врачей и судей) к технологическим инструментам.
🚗 Принцип адаптации: как люди меняются ради технологий 19:14
Разработчики часто позиционируют ИИ как послушного ассистента, однако Гигеренцер формулирует противоположный «принцип адаптации к ИИ». Чтобы автоматизированные системы могли функционировать, человечеству приходится менять окружающую среду, делая ее более стабильной, а самих людей — более предсказуемыми.
Спикер выразил скепсис относительно скорого появления полноценных беспилотных автомобилей 5-го уровня автономии, способных безопасно двигаться в любых погодных и дорожных условиях без контроля человека. По мнению Гигеренцера, обещания Илона Маска на этот счет являются исключительно маркетинговым хайпом. На сегодняшний день индустрия массово освоила лишь 2-й уровень (помощники парковки, удержание полосы).
Реальное будущее, по прогнозу профессора, принадлежит автомобилям 4-го уровня, которые уже успешно работают на закрытых территориях аэропортов или на выделенных полосах магистралей. Но их интеграция потребует радикальной перестройки городов:
- Улицы и трассы будут физически зонироваться.
- Появление пешеходов, велосипедистов и водителей-людей в зонах движения беспилотников будет полностью запрещено.
- Человеку придется в очередной раз подстроить свои привычки и законы под требования машин.
☕️ Парадокс приватности и бизнес-модель «оплаты данными» 23:09
Анализируя экономическую изнанку ИТ-гигантов, Гигеренцер приводит метафору «кофейни с бесплатным кофе». Представьте заведение, где вам не нужно платить за напитки, но все столы оборудованы скрытыми микрофонами и камерами, а помещение заполнено навязчивыми коммивояжерами, которые постоянно прерывают ваш разговор, предлагая персонализированные товары. В этой схеме пользователь — не клиент, а продукт, который продают настоящим покупателям — рекламодателям.
Ученый напоминает, что в 1998 году основатели Google написали статью, в которой аргументированно критиковали поисковые движки, построенные на рекламной модели, и выступали за академический подход. Однако крах доткомов заставил их изменить стратегию, что привело к формированию капитализма слежки.
Сегодня эта бизнес-модель деформирует общество. Ссылаясь на исследования, Гигеренцер отмечает, что рекомендательные алгоритмы YouTube и Facebook умышленно продвигают экстремальный контент, теории заговора и язык вражды, так как именно такие темы вызывают сильные эмоции и удерживают пользователей на платформе дольше.
При этом в обществе сформировался так называемый «парадокс приватности»:
- Около 80% граждан США заявляют, что серьезно обеспокоены безопасностью своих персональных данных.
- Только 28% американцев выразили готовность платить всего $1 в месяц за платформу, которая бы не отслеживала их интимную информацию (беременность, депрессия, болезни).
- В Германии, несмотря на историческую память о тотальной слежке спецслужбы Штази, 75% опрошенных Гигеренцером категорически отказались платить хотя бы цент за сохранение конфиденциальности.
Пользователи привыкли кликать по кнопкам согласия с условиями конфиденциальности, не читая их. Исследования показывают, что если бы человек реально читал все юридические соглашения, которые он принимает в интернете, это занимало бы у него около 30 рабочих дней в году. Граждане добровольно отказываются от права выбора: сегодня около 75% всех просмотров на YouTube обеспечиваются автоматическими рекомендациями алгоритма, а не осознанным поиском людей.
🧠 Цифровая грамотность и будущее под присмотром алгоритмов 42:24
Главной угрозой ближайшего будущего Гигеренцер видит не восстание машин, а добровольный отказ людей от самостоятельного мышления и делегирование жизненно важных решений голосовым помощникам вроде Alexa. Корпорации убеждают пользователей в том, что алгоритмы знают их лучше, чем они сами, подталкивая к абсолютному конформизму.
Примером тотального контроля уже сегодня выступает китайская система социального кредита, тестируемая в 44 мегаполисах. В отличие от американского финансового скоринга FICO, китайский аналог оценивает социальное и политическое поведение граждан. За переход дороги на красный свет или просмотр «неправильных» сайтов баллы снижаются, а за посещение пожилых родителей — растут. Обладатели низких рейтингов наказываются запретом на покупку авиабилетов или на обучение детей в престижных школах.
Спикер подчеркивает, что западное общество движется по той же скользкой дорожке, недооценивая масштабы скрытой слежки. Мало кто знает, что в политике конфиденциальности Smart TV от Samsung прямо прописано требование не вести личные или финансовые разговоры перед экраном, так как телевизор записывает аудио и передает его третьим лицам.
Проблема усугубляется катастрофически низкой цифровой и радиационной грамотностью населения. Спикер привел яркое сравнение:
«Если предложить людям на выбор бесплатную компьютерную томографию всего тела или двухнедельный отпуск в Фукусиме рядом с АЭС, большинство выберет КТ. При этом, по данным Гарвардской медицинской школы, доза облучения от КТ составляет 10–20 миллизивертов, тогда как в Фукусиме сегодня человек получит всего 0,1 миллизиверта — в сто раз меньше».
Из-за отсутствия базовой грамотности в США около миллиона детей ежегодно подвергаются ненужным процедурам КТ, что впоследствии приводит к смертям от онкологии. В цифровой среде ситуация аналогична: исследование Стэнфордского университета показало, что 96% студентов не владеют техникой «поперечного чтения» (lateral reading) — они не умеют проверять, кто реально стоит за веб-сайтом, оценивая ресурс лишь по внешнему виду. Согласно международному исследованию PISA, более 90% 15-летних подростков в странах ОЭСР не способны отличить факт от фейка или чужого мнения.
В завершение беседы Герд Гигеренцер призвал реформировать школьное образование, обучая детей фактчекингу, а также воспитывать профессиональную чистоплотность среди журналистов. По данным британских исследований, до 60% статей об ИИ в прессе — от Daily Mail до BBC — являются некритичным пересказом корпоративных пресс-релизов. Обществу необходимы не алгоритмы-«подталкиватели» (nudging), которые относятся к человеку как к необучаемому существу, а развитие личной дисциплины, критического мышления и смелости принимать решения самостоятельно.
