# Мэтт Гинсберг: «У нейросетей нет понятия о реальности, они лишь имитируют экспертов»

Источник: https://www.youtube.com/watch?v=8a06tVi06Ac
Канал: StarTalk
Опубликовано: 21.07.2023

---

В новом выпуске StarTalk астрофизик Нил Деграсс Тайсон и ученый в области ИИ Мэтт Гинсберг обсуждают, станет ли искусственный интеллект концом цивилизации или превратится в незаменимого помощника. Исследователи разбирают механизмы работы нейросетей, их применение в освоении космоса и профессиональном спорте, а также проблему «галлюцинаций» и утраты доверия к информации в эпоху дипфейков.

## 🚀 Фабрика «лунных выстрелов»: как устроена работа в Alphabet X
[[JUMP:02:41]]

Мэтт Гинсберг, математик из Оксфорда и разработчик алгоритма Dr. Phil для решения кроссвордов, сегодня работает в организации **X** (ранее Google X), входящей в холдинг **Alphabet** [03:07]. Эту структуру называют «фабрикой лунных выстрелов» (moonshot factory), поскольку её задача — решение сложнейших технологических проблем человечества.

Специфика работы подразделения X:

*   **Культура неудач:** Проекты в X закрываются чаще, чем доходят до финала. По словам Гинсберга, в компании празднуют закрытие неудачных направлений, так как это позволяет извлечь опыт и переключить ресурсы на новые идеи [06:11].
*   **Срок реализации:** Горизонт планирования составляет около 10 лет, хотя проект могут закрыть уже через два года, если станет ясно, что он нежизнеспособен [07:16].
*   **Ключевые достижения:** Из недр X вышли такие проекты, как **Waymo** (беспилотные автомобили), **Mineral** (умные сельскохозяйственные машины) и технология **Transformers**, на которой базируется современный генеративный ИИ [07:16].
*   **Текущие задачи:** Один из приоритетных проектов сейчас — **Tapestry**, целью которого является декарбонизация электросетей и переход на возобновляемые источники энергии [04:26].

## 🎤 Этика дипфейков: от песен Джона Леннона до дестабилизации общества
[[JUMP:09:13]]

Обсуждая недавнее использование ИИ для завершения последней песни The Beatles с голосом Джона Леннона, участники дискуссии разделили технологическую и этическую стороны вопроса.

Гинсберг утверждает, что синтезировать голос человека сегодня — относительно простая задача [10:17]. Однако воссоздать «сущность» творца, его идеи и выбор слов гораздо сложнее. Основную угрозу ученый видит в развитии дипфейков, которые могут полностью лишить общество опоры на реальность.

Проблемы регулирования дипфейков по версии Гинсберга:

1.  **Сложность маркировки:** Даже если ввести закон об обязательных «водяных знаках» для ИИ-контента, его будет легко обойти, создавая контент в юрисдикциях, где такого закона нет [11:22].
2.  **Технологическое распознавание:** Необходимо развивать алгоритмы, способные выявлять следы работы нейросетей (например, Google Bard) с точностью до 95% [12:02].
3.  **Кризис доверия:** По мнению Гинсберга, ценность «доверенных источников» (крупных новостных агентств) в будущем возрастёт, так как обыватель больше не сможет верить собственным глазам и ушам при просмотре контента из сети [12:31].

## 🌌 ИИ в науке: ловушка статистики и поиск «черных лебедей»
[[JUMP:17:13]]

Мэтт Гинсберг предлагает разделять все научные и жизненные задачи на два типа: «51/49» и «100/0» [17:13].

*   **Проблемы 51/49:** Это области, где достаточно быть правым в 51% случаев, чтобы добиться успеха (фондовый рынок, спортивные прогнозы). ИИ справляется с такими задачами превосходно.
*   **Проблемы 100/0:** Ситуации, где ошибка недопустима (остановка ядерного реактора, поиск абсолютно нового научного феномена). Здесь ИИ пока слаб [17:40].

Нил Деграсс Тайсон возражает, утверждая, что ИИ может быть запрограммирован на поиск аномалий, не соответствующих известному каталогу объектов [18:20]. Однако Гинсберг парирует: нейросеть склонна классифицировать всё новое по уже существующим категориям.

В качестве примера Гинсберг приводит гипотетическую ситуацию: если два пульсара на расстоянии двух световых лет друг от друга вдруг окажутся синхронизированы (признак деятельности инопланетян), ИИ просто отметит их как «пульсары» и пойдет дальше [20:49]. Машина не поймет, что это фундаментально новый феномен, так как она не обучена искать то, чего «не может быть» [22:22].

## 🏈 Машинный тренер: почему ИИ переигрывает людей в NFL
[[JUMP:23:44]]

Гинсберг разработал алгоритм для выбора игровых комбинаций в американском футболе (NFL), который в симуляциях «уничтожает» человеческих тренеров [23:58].

Ключевые факты о футбольном ИИ:

*   **Точность прогноза:** Алгоритм способен предсказать конкретную комбинацию противника в 20% случаев, что для футбола является невероятно высоким показателем [28:09].
*   **Игнорирование страха:** В 2010-х годах Гинсберг консультировал команду Oregon Ducks. Его статистический анализ показал, что командам никогда не следует бить пант (отдавать мяч) между 35-ярдовыми линиями и всегда нужно пытаться разыграть четвердаун (fourth-and-one) даже на своей 10-ярдовой линии [33:23].
*   **Человеческий фактор:** Тренер Oregon Ducks признался Гинсбергу, что не может следовать этим математически верным советам, так как в случае неудачи его уволит руководство, не понимающее статистику [33:36].

По мнению Гинсберга, спортивные организации консервативны, но внедрение аналитики неизбежно. Сегодняшний рост числа двухочковых реализаций в NFL — прямой результат того, что статистика начала побеждать интуицию [31:08].

## 🧠 Галлюцинации и «искусственный идиотизм»
[[JUMP:39:30]]

Одной из главных тем обсуждения стало отсутствие у современных LLM (больших языковых моделей) понятия о реальности и истине. ИИ не «знает» фактов, он лишь предсказывает следующее наиболее вероятное слово.

Гинсберг провел эксперимент с Google Bard, спросив, есть ли корреляция между фазами Луны и потреблением курицы в Дании [15:11]. Нейросеть уверенно ответила «да» и процитировала несуществующее научное исследование, обосновывая свои выводы [41:14].

Ключевые тезисы о природе ИИ:

*   **Отсутствие морали и истины:** У генеративного ИИ нет модели реальности, поэтому он не «лжет», а «галлюцинирует» [41:27].
*   **Проблема данных:** Нил Деграсс Тайсон предположил, что ИИ «отравлен» низкокачественным контентом интернета (QAnon и прочее) [42:50]. Гинсберг считает, что даже на идеально чистых данных проблема галлюцинаций сохранится, так как она заложена в самом механизме предсказания текста.
*   **Ребрендинг:** В шутку Тайсон предложил переименовать ИИ (Artificial Intelligence) в «Искусственный идиотизм» (Artificial Idiocy), так как система полностью оторвана от объективной реальности [48:33].

## 🎓 Будущее образования и конец интернета
[[JUMP:48:53]]

Нил Деграсс Тайсон выдвинул парадоксальную гипотезу: если дипфейки станут идеальными, это может привести к «концу интернета» как источника информации [48:53]. По его мнению, это может иметь позитивный эффект: если люди перестанут верить всему подряд в сети, теории заговора вроде QAnon потеряют свою силу, так как их сторонники тоже станут подозрительными [49:21].

Взгляд участников на образование:

*   **Уход от зубрежки:** Гинсберг считает, что использование ИИ для написания домашних заданий — временная проблема. Она заставит школы ценить сам процесс обучения и критическое мышление, а не оценки за результат [52:39].
*   **Интеллектуальная свобода:** Поскольку машины берут на себя рутину и «драйв» (механическую работу), человеку остается «fun hard stuff» — творческие и по-настоящему сложные задачи [51:47].
*   **Навык промпт-инжиниринга:** Гинсберг предсказывает появление новой профессии — людей, умеющих правильно формулировать запросы к ИИ, чтобы избегать галлюцинаций и получать полезные ответы [44:09].

В финале беседы Гинсберг выразил оптимизм: необходимость отличать правду от лжи в эпоху ИИ может заставить общество более ответственно относиться к науке и критическому мышлению [53:32].