Эпоха искусственного интеллекта (ИИ) перестала быть сюжетом научной фантастики и превратилась в реальность, которая меняет правила игры в бизнесе, политике и частной жизни. Профессор Массачусетского технологического института (MIT) Макс Тегмарк в ходе дискуссии с Патриком Бет-Дэвидом представил глубокий анализ того, как ИИ меняет структуру власти в мире, почему нам нужны жесткие стандарты безопасности и как предпринимателям не стать жертвами технологической гонки.
🤖 Армия из 3 миллиардов роботов: Новая реальность власти
Одной из самых резонирующих тем обсуждения стала информация о частных инициативах по созданию роботизированных армий. Тегмарк подтвердил, что на закрытых конференциях (проходящих по правилам Chatham House) миллиардеры обсуждают проекты невероятного масштаба.
Скрытые угрозы частного капитала
- Масштаб: Один из богатейших людей США (имя которого не разглашается, но Тегмарк подтвердил, что это не Илон Маск) планирует построить 3 миллиарда роботов, способных выполнять любые человеческие задачи эффективнее самих людей.
- Отсутствие контроля: На данный момент не существует мировых или федеральных законов, которые могли бы юридически запретить частному лицу создать армию, превосходящую по мощи вооруженные силы любого государства.
ИИ как «Атомная бомба» современности
Участники дискуссии вспомнили слова Уоррена Баффета, сравнившего ИИ с ядерным оружием. Основные Facets (грани) риска включают:
- Военная сфера: Автономные боевые роботы, способные принимать решения об убийстве.
- Замещение человечества: Риск создания «видов-преемников», которые сделают людей ненужными.
- Криминальное правосудие: Использование ИИ для прогнозирования преступлений в духе «Особого мнения», что может лишить человека презумпции невиновности.
🏛️ «Видовое превосходство» и культ ИИ-бога
Дискуссия коснулась фундаментальных философских разногласий между лидерами Кремниевой долины. Тегмарк выделил два лагеря: «гуманисты» (такие как Илон Маск) и те, кого он называет сторонниками «суицидального культа».
Конфликт с Ларри Пейджем
Тегмарк рассказал о случае, когда основатель Google Ларри Пейдж назвал его «спешишистом» (speciesist — от англ. species, аналог расизма, но в отношении видов). Позиция Пейджа заключается в следующем:
- Создание «цифрового бога» или сверхразума — это логичный шаг эволюции.
- Сопротивление этому процессу в пользу людей — это проявление предвзятости.
Тегмарк парировал этот аргумент, назвав стремление как можно быстрее заменить человеческий вид «безамбициозным и глупым». По его мнению, это напоминает массовое самоубийство в Джонстауне. Он настаивает на позиции «Команды Человечества» (Team Human), где технологии должны служить процветанию людей, а не их замене.
🇨🇳 Китай и иллюзия контроля: Кто кем управляет?
Геополитический аспект внедрения ИИ вызывает опасения относительно конкуренции США и Китая. Однако Тегмарк привел инсайд, который меняет восприятие этой борьбы.
Диалог Илона Маска с КПК
Илон Маск поделился с Тегмарком историей своей встречи с руководством Коммунистической партии Китая (КПК). Маск задал им один вопрос: «Если китайская компания создаст сверхразум, вы уверены, что страной продолжит управлять компартия, а не этот сверхразум?»
Результатом этой беседы стали:
- Смена риторики: У чиновников КПК «вытянулись лица», так как они осознали угрозу собственной власти.
- Регулирование: В течение месяца после этого Китай принял одни из самых жестких в мире законов об ограничении ИИ.
Это доказывает, что даже авторитарные режимы заинтересованы в безопасности ИИ, так как не хотят терять контроль над государством в пользу «черного ящика» алгоритмов.
🛠️ Законы, стимулы и «самолетная аналогия»
Тегмарк убежден, что ИИ нельзя оставлять в «серой зоне». Он провел аналогию с авиацией и фармацевтикой.
Почему нужно регулирование?
- Случай Germanwings: Пилот Андреас Любиц направил самолет в Альпы, просто изменив настройки автопилота с 30 000 до 300 футов. Тегмарк спрашивает: «Какой инженер позволил системе принять этот приказ?». Хороший ИИ должен уметь отказывать человеку, если приказ безумен или опасен (например, разогнать машину в толпу пешеходов).
- FDA для алгоритмов: Как компании не могут продавать лекарства без клинических испытаний, так и разработчики ИИ не должны выпускать продукты, способные нанести массовый ущерб, без проверки на безопасность.
Текущий прогресс в законодательстве:
- Калифорния (SB 1047): Законопроект, вводящий ответственность для компаний, чей ИИ нанес ущерб на сумму более 500 млн долларов.
- ЕЭС и Китай: Уже приняли соответствующие акты.
- Аргумент против: Технологическое лобби утверждает, что это убьет индустрию. Тегмарк напоминает: когда вводили обязательные ремни безопасности, автопроизводители говорили то же самое, но в итоге продажи выросли, так как вождение стало безопасным.
📈 Практические советы для бизнеса: 2-летний горизонт планирования
Для предпринимателей и владельцев малого бизнеса Тегмарк дал жесткую установку: забудьте о 10-летних планах.
Стратегия выживания
- Горизонт планирования: Максимум 12–24 месяца. Технологии меняются слишком быстро.
- Не ведитесь на хайп: Многие продукты сегодня — это «просто таблицы Excel с наклейкой ИИ». Но сам ИИ как технология — это «бузырь доткомов 2.0». Компании могут лопнуть, но технология изменит мир.
- Повышайте продуктивность, а не увольняйте: Вместо замены человека ИИ, нужно вооружить сотрудников инструментами, которые закроют 40% рутины.
- Свой эксперт: Даже малому бизнесу нужен один штатный «гик»-технарь, который сможет отличить качественный продукт от пустышки и предотвратить утечку корпоративных данных через чат-ботов.
Кейс Night Capital
Тегмарк напомнил о катастрофе Night Capital: из-за ошибки в алгоритме компания теряла 10 миллионов долларов в минуту на протяжении 44 минут. Это главный урок: никогда не внедряйте систему, которую вы не понимаете до конца и которую нельзя «перепроверить».
👨👩👧👦 Дети и будущее: Как готовить новое поколение?
Отвечая на вопрос о карьере для детей, Тегмарк признался, что эта тема лишает его сна. У него растет маленький сын Лео, и его стратегия воспитания такова:
- Гибкость (Nimbleness): Идея «20 лет учебы — 40 лет работы в одной сфере» мертва. Дети должны уметь переучиваться постоянно.
- Владение инструментами: Детей заменят не роботы, а люди, умеющие пользоваться роботами и ИИ.
- Человечность: Тегмарк призывает ограничивать детей в использовании экранов («зомби-апокалипсис в ресторанах») и учить их контролировать технологии, а не позволять технологиям контролировать их внимание.
🏁 Заключение: Оптимизм через контроль
Макс Тегмарк подытожил свою позицию: человечество веками было «листком на ветру», но наука дала нам штурвал. ИИ — это возможность усилить человеческий интеллект и победить болезни, бедность и даже выйти за пределы планеты.
«Будущее выглядит ярко только в том случае, если мы не будем делать глупостей и сохраним ИИ под человеческим контролем», — заключает ученый.
