# Миллиардер строит 3 миллиарда роботов: Макс Тегмарк об угрозах ИИ Источник: https://www.youtube.com/watch?v=qEqKy3cYriE Канал: PBD Podcast Опубликовано: 07.10.2024 --- Эпоха искусственного интеллекта (ИИ) перестала быть сюжетом научной фантастики и превратилась в реальность, которая меняет правила игры в бизнесе, политике и частной жизни. Профессор Массачусетского технологического института (MIT) **Макс Тегмарк** в ходе дискуссии с Патриком Бет-Дэвидом представил глубокий анализ того, как ИИ меняет структуру власти в мире, почему нам нужны жесткие стандарты безопасности и как предпринимателям не стать жертвами технологической гонки. ## 🤖 Армия из 3 миллиардов роботов: Новая реальность власти Одной из самых резонирующих тем обсуждения стала информация о частных инициативах по созданию роботизированных армий. Тегмарк подтвердил, что на закрытых конференциях (проходящих по правилам Chatham House) миллиардеры обсуждают проекты невероятного масштаба. ### Скрытые угрозы частного капитала * **Масштаб:** Один из богатейших людей США (имя которого не разглашается, но Тегмарк подтвердил, что это не Илон Маск) планирует построить **3 миллиарда роботов**, способных выполнять любые человеческие задачи эффективнее самих людей. * **Отсутствие контроля:** На данный момент не существует мировых или федеральных законов, которые могли бы юридически запретить частному лицу создать армию, превосходящую по мощи вооруженные силы любого государства. ### ИИ как «Атомная бомба» современности Участники дискуссии вспомнили слова Уоррена Баффета, сравнившего ИИ с ядерным оружием. Основные Facets (грани) риска включают: 1. **Военная сфера:** Автономные боевые роботы, способные принимать решения об убийстве. 2. **Замещение человечества:** Риск создания «видов-преемников», которые сделают людей ненужными. 3. **Криминальное правосудие:** Использование ИИ для прогнозирования преступлений в духе «Особого мнения», что может лишить человека презумпции невиновности. --- ## 🏛️ «Видовое превосходство» и культ ИИ-бога Дискуссия коснулась фундаментальных философских разногласий между лидерами Кремниевой долины. Тегмарк выделил два лагеря: «гуманисты» (такие как Илон Маск) и те, кого он называет сторонниками «суицидального культа». ### Конфликт с Ларри Пейджем Тегмарк рассказал о случае, когда основатель Google Ларри Пейдж назвал его «спешишистом» (*speciesist — от англ. species, аналог расизма, но в отношении видов*). Позиция Пейджа заключается в следующем: * Создание «цифрового бога» или сверхразума — это логичный шаг эволюции. * Сопротивление этому процессу в пользу людей — это проявление предвзятости. Тегмарк парировал этот аргумент, назвав стремление как можно быстрее заменить человеческий вид «безамбициозным и глупым». По его мнению, это напоминает массовое самоубийство в Джонстауне. Он настаивает на позиции «Команды Человечества» (*Team Human*), где технологии должны служить процветанию людей, а не их замене. --- ## 🇨🇳 Китай и иллюзия контроля: Кто кем управляет? Геополитический аспект внедрения ИИ вызывает опасения относительно конкуренции США и Китая. Однако Тегмарк привел инсайд, который меняет восприятие этой борьбы. ### Диалог Илона Маска с КПК Илон Маск поделился с Тегмарком историей своей встречи с руководством Коммунистической партии Китая (КПК). Маск задал им один вопрос: **«Если китайская компания создаст сверхразум, вы уверены, что страной продолжит управлять компартия, а не этот сверхразум?»** Результатом этой беседы стали: 1. **Смена риторики:** У чиновников КПК «вытянулись лица», так как они осознали угрозу собственной власти. 2. **Регулирование:** В течение месяца после этого Китай принял одни из самых жестких в мире законов об ограничении ИИ. Это доказывает, что даже авторитарные режимы заинтересованы в безопасности ИИ, так как не хотят терять контроль над государством в пользу «черного ящика» алгоритмов. --- ## 🛠️ Законы, стимулы и «самолетная аналогия» Тегмарк убежден, что ИИ нельзя оставлять в «серой зоне». Он провел аналогию с авиацией и фармацевтикой. ### Почему нужно регулирование? * **Случай Germanwings:** Пилот Андреас Любиц направил самолет в Альпы, просто изменив настройки автопилота с 30 000 до 300 футов. Тегмарк спрашивает: «Какой инженер позволил системе принять этот приказ?». Хороший ИИ должен уметь отказывать человеку, если приказ безумен или опасен (например, разогнать машину в толпу пешеходов). * **FDA для алгоритмов:** Как компании не могут продавать лекарства без клинических испытаний, так и разработчики ИИ не должны выпускать продукты, способные нанести массовый ущерб, без проверки на безопасность. ### Текущий прогресс в законодательстве: * **Калифорния (SB 1047):** Законопроект, вводящий ответственность для компаний, чей ИИ нанес ущерб на сумму более 500 млн долларов. * **ЕЭС и Китай:** Уже приняли соответствующие акты. * **Аргумент против:** Технологическое лобби утверждает, что это убьет индустрию. Тегмарк напоминает: когда вводили обязательные ремни безопасности, автопроизводители говорили то же самое, но в итоге продажи выросли, так как вождение стало безопасным. --- ## 📈 Практические советы для бизнеса: 2-летний горизонт планирования Для предпринимателей и владельцев малого бизнеса Тегмарк дал жесткую установку: **забудьте о 10-летних планах.** ### Стратегия выживания 1. **Горизонт планирования:** Максимум 12–24 месяца. Технологии меняются слишком быстро. 2. **Не ведитесь на хайп:** Многие продукты сегодня — это «просто таблицы Excel с наклейкой ИИ». Но сам ИИ как технология — это «бузырь доткомов 2.0». Компании могут лопнуть, но технология изменит мир. 3. **Повышайте продуктивность, а не увольняйте:** Вместо замены человека ИИ, нужно вооружить сотрудников инструментами, которые закроют 40% рутины. 4. **Свой эксперт:** Даже малому бизнесу нужен один штатный «гик»-технарь, который сможет отличить качественный продукт от пустышки и предотвратить утечку корпоративных данных через чат-ботов. ### Кейс Night Capital Тегмарк напомнил о катастрофе Night Capital: из-за ошибки в алгоритме компания теряла **10 миллионов долларов в минуту** на протяжении 44 минут. Это главный урок: никогда не внедряйте систему, которую вы не понимаете до конца и которую нельзя «перепроверить». --- ## 👨‍👩‍👧‍👦 Дети и будущее: Как готовить новое поколение? Отвечая на вопрос о карьере для детей, Тегмарк признался, что эта тема лишает его сна. У него растет маленький сын Лео, и его стратегия воспитания такова: * **Гибкость (Nimbleness):** Идея «20 лет учебы — 40 лет работы в одной сфере» мертва. Дети должны уметь переучиваться постоянно. * **Владение инструментами:** Детей заменят не роботы, а люди, умеющие пользоваться роботами и ИИ. * **Человечность:** Тегмарк призывает ограничивать детей в использовании экранов («зомби-апокалипсис в ресторанах») и учить их контролировать технологии, а не позволять технологиям контролировать их внимание. ## 🏁 Заключение: Оптимизм через контроль Макс Тегмарк подытожил свою позицию: человечество веками было «листком на ветру», но наука дала нам штурвал. ИИ — это возможность усилить человеческий интеллект и победить болезни, бедность и даже выйти за пределы планеты. > «Будущее выглядит ярко только в том случае, если мы не будем делать глупостей и сохраним ИИ под человеческим контролем», — заключает ученый.