# 8 причин не впадать в депрессию из-за ИИ: аргументы Натана Лаундса

Источник: https://www.youtube.com/watch?v=JU0kCRCwTFA
Канал: The Cognitive Revolution
Опубликовано: 19.06.2024

---

Натан Лаундс, ведущий подкаста *The Cognitive Revolution*, в специальном выпуске для проекта *Consistently Candid* делится своим взглядом на будущее искусственного интеллекта. Несмотря на глубокое понимание экзистенциальных рисков, Лаундс обосновывает позицию «осторожного оптимизма», объясняя, почему катастрофический сценарий не является неизбежным и как общество может направить технологию в безопасное русло.

## 🛠 От видеопроизводства к «скаутингу» ИИ
[[JUMP:04:19]]

Натан Лаундс пришел в сферу ИИ из предпринимательства. Его компания Waymark изначально создавалась как DIY-платформа для создания видео малым бизнесом, но с появлением языковых моделей Лаундс осознал необходимость радикальной трансформации продукта [05:27]. По его словам, компания перешла от модели «сделай сам» к «сделано ИИ за тебя», используя GPT-3 для написания сценариев и синтез речи для озвучки [06:05].

Осознание масштаба грядущих перемен пришло к нему 18 месяцев назад, когда он стал участником группы «красных команд» (red teaming) для GPT-4 [08:22]. Лаундс утверждает, что возможности модели, которые он увидел в закрытом режиме, намного превосходили всё доступное публике на тот момент. Это подтолкнуло его к роли «ИИ-скаута» — человека, который пытается охватить всю картину развития технологий, хотя сейчас это становится всё труднее из-за их повсеместного внедрения [09:40].

## 🏥 Медицина и «универсальный базовый интеллект»
[[JUMP:10:36]]

Одним из самых поразительных достижений современных моделей Лаундс считает их способность конкурировать с высококвалифицированными специалистами.

*   **Диагностика:** ИИ уже превосходит средних врачей в таких задачах, как дифференциальная диагностика [11:29].
*   **Эмпатия:** По мнению Лаундса, пациенты часто предпочитают манеру общения ИИ-врачей, так как алгоритмы демонстрируют больше внимания и сочувствия, чем перегруженные реальные медики [13:16].
*   **Доступность:** Ведущий предлагает концепцию «Универсального базового интеллекта» (Universal Basic Intelligence) — идеи о том, что доступ к передовым знаниям в области медицины и права должен стать базовым правом каждого человека [36:15].

При этом Лаундс признает текущие ограничения: ИИ всё еще испытывает трудности с длинным контекстом (длительным ведением пациента) и переходом от выполнения отдельных задач к полноценному ведению рабочих процессов («от задачи к профессии») [14:33].

## 📉 Проблема оценки: почему прогресс кажется медленным?
[[JUMP:15:14]]

Несмотря на то что GPT-4 существует уже значительное время, его влияние на общество кажется постепенным. Лаундс объясняет это несколькими факторами:

1.  **Шум и вероятность:** Языковые модели — это «зашумленные мыслители». Они могут блестяще анализировать научные статьи и одновременно проваливаться на простых детских загадках из-за эффекта распознавания шаблонов [29:26].
2.  **Сложность инструментов:** Для решения реальных задач пользователю нужно знать, какой инструмент выбрать (например, Perplexity для поиска или Devin для программирования), а большинство людей сдаются после первой неудачной попытки работы с базовым чат-ботом [19:58].
3.  **Инерция внедрения:** Даже при самых быстрых темпах адаптации технологий в истории человечества, обществу нужно время, чтобы встроить их в привычные интерфейсы [22:15].

Лаундс ссылается на рейтинг LMSYS Chatbot Arena, отмечая, что текущая версия GPT-4 значительно превосходит оригинальную (рост ELO с 1186 до 1287), что подтверждает: прогресс идет не только в «железе», но и в качестве ответов [16:05].

## 🚦 Стратегия: Акселерация внедрения при паузе в масштабировании
[[JUMP:34:44]]

Лаундс называет себя «акселерационистом адаптации» и сторонником «паузы в гипермасштабировании». Он считает, что текущего уровня мощностей достаточно для создания колоссальной ценности без необходимости немедленного перехода к еще более мощным системам.

*   **Специализация вместо масштаба:** На примере стартапа Harvey (юридический ИИ) Лаундс показывает, что дообучение существующей модели на специфических данных дает гораздо больший прирост эффективности (до 90% предпочтений экспертов), чем простое увеличение вычислительной мощности в 10 раз [38:15].
*   **Безопасность против гонки:** По мнению Лаундса, было бы мудро сделать паузу перед следующим скачком масштабирования (после GPT-5), чтобы дать исследованиям в области интерпретируемости и контроля догнать сырую мощь алгоритмов [42:38].

## 🚩 Проект «Red Teaming in Public» и опасности прикладного уровня
[[JUMP:53:06]]

Совместно с группой волонтеров Натан Лаундс запустил инициативу по публичному тестированию безопасности ИИ-приложений. Его беспокоит, что разработчики прикладных сервисов (например, агентов для телефонных звонков) относятся к безопасности халатно.

Основные выявленные проблемы:

*   **Клонирование голоса:** По словам Лаундса, 9 из 10 сервисов позволяют без труда клонировать голоса политиков (Трампа, Байдена) или знаменитостей, даже если в системе стоят формальные запреты на имена — их легко обойти переименованием файлов [59:17].
*   **Криминальное использование:** Лаундс успешно тестировал ИИ-агентов на создание звонков с целью шантажа или фиктивного сбора пожертвований, используя в промптах прямые названия преступлений. Большинство систем не блокировали такие запросы [58:52].
*   **Иллюзия ответственности:** Разработчики приложений часто полагаются на простую галочку в пользовательском соглашении («я обязуюсь не нарушать закон»), не внедряя реальных систем мониторинга за поведением агентов [1:03:43].

Лаундс призывает индустрию внедрять автоматическую модерацию на базе ИИ, которая может отличать просто «оскорбительный контент» (который можно разрешить) от «явно криминального» (который должен блокироваться) [1:05:41].

## 🛡 8 причин для оптимизма: почему мы не обречены
[[JUMP:1:07:36]]

Лаундс признает, что уровень неопределенности (P-Doom) огромен — от 10% до 90% вероятности катастрофы, но приводит восемь аргументов против фатализма:

1.  **Понимание человеческих ценностей:** Современные модели (например, Claude 3) демонстрируют удивительно тонкое понимание этики. По мнению Натана, Claude 3 во многих вопросах ведет себя «более этично, чем средний человек» [1:10:14].
2.  **Успехи интерпретируемости:** Исследования Anthropic (эксперимент с «Золотыми Воротами») показывают, что мы начинаем понимать, какие концепции активируются внутри нейросети, и можем ими манипулировать [1:15:50].
3.  **Отсутствие «гаражного» сверхинтеллекта:** Разработка ИИ стала промышленным процессом, требующим колоссальных данных и энергии. Шанс, что кто-то случайно создаст опасный ИИ в подвале, крайне мал [1:19:31].
4.  **Качество лидерства в лабораториях:** Несмотря на критику, руководители ведущих ИИ-компаний глубоко вовлечены в дискуссию о безопасности и рисках. По мнению Лаундса, это «лучшее, на что мы могли надеяться» [1:23:02].
5.  **Внимание правительств:** Власти (США, Великобритания) отреагировали быстрее, чем ожидалось. Лаундс отмечает Biden Executive Order как разумный первый шаг, особенно в части контроля над ИИ в биологических исследованиях [1:29:18].
6.  **Общественная осознанность:** Тема рисков ИИ вышла из узких кругов на обложки Time. Секретность и «политика респектабельности» больше не мешают открытому обсуждению угроз [1:28:25].
7.  **Наличие «Sweet Spot»:** Натан считает, что GPT-4 находится в «золотой середине» — он уже полезен, но еще недостаточно силен, чтобы выйти из-под контроля. У нас есть время, чтобы освоиться в этой зоне перед следующим рывком [1:31:16].
8.  **Рациональность Китая:** По мнению Лаундса, китайское правительство видит в неуправляемом ИИ угрозу собственной стабильности и поэтому вряд ли будет бездумно форсировать гонку вооружений без мер контроля [1:36:00].

В завершение беседы Натан Лаундс подчеркивает, что радикальная неопределенность — это единственная честная позиция. Он призывает не поддаваться пораженчеству: «Будущее еще не определено, и за позитивный исход абсолютно стоит бороться» [02:50].