В новом выпуске StarTalk астрофизик Нил Деграсс Тайсон и ученый в области ИИ Мэтт Гинсберг обсуждают, станет ли искусственный интеллект концом цивилизации или превратится в незаменимого помощника. Исследователи разбирают механизмы работы нейросетей, их применение в освоении космоса и профессиональном спорте, а также проблему «галлюцинаций» и утраты доверия к информации в эпоху дипфейков.
🚀 Фабрика «лунных выстрелов»: как устроена работа в Alphabet X 2:41
Мэтт Гинсберг, математик из Оксфорда и разработчик алгоритма Dr. Phil для решения кроссвордов, сегодня работает в организации X (ранее Google X), входящей в холдинг Alphabet . Эту структуру называют «фабрикой лунных выстрелов» (moonshot factory), поскольку её задача — решение сложнейших технологических проблем человечества.
Специфика работы подразделения X:
- Культура неудач: Проекты в X закрываются чаще, чем доходят до финала. По словам Гинсберга, в компании празднуют закрытие неудачных направлений, так как это позволяет извлечь опыт и переключить ресурсы на новые идеи .
- Срок реализации: Горизонт планирования составляет около 10 лет, хотя проект могут закрыть уже через два года, если станет ясно, что он нежизнеспособен .
- Ключевые достижения: Из недр X вышли такие проекты, как Waymo (беспилотные автомобили), Mineral (умные сельскохозяйственные машины) и технология Transformers, на которой базируется современный генеративный ИИ .
- Текущие задачи: Один из приоритетных проектов сейчас — Tapestry, целью которого является декарбонизация электросетей и переход на возобновляемые источники энергии .
🎤 Этика дипфейков: от песен Джона Леннона до дестабилизации общества 9:13
Обсуждая недавнее использование ИИ для завершения последней песни The Beatles с голосом Джона Леннона, участники дискуссии разделили технологическую и этическую стороны вопроса.
Гинсберг утверждает, что синтезировать голос человека сегодня — относительно простая задача . Однако воссоздать «сущность» творца, его идеи и выбор слов гораздо сложнее. Основную угрозу ученый видит в развитии дипфейков, которые могут полностью лишить общество опоры на реальность.
Проблемы регулирования дипфейков по версии Гинсберга:
- Сложность маркировки: Даже если ввести закон об обязательных «водяных знаках» для ИИ-контента, его будет легко обойти, создавая контент в юрисдикциях, где такого закона нет .
- Технологическое распознавание: Необходимо развивать алгоритмы, способные выявлять следы работы нейросетей (например, Google Bard) с точностью до 95% .
- Кризис доверия: По мнению Гинсберга, ценность «доверенных источников» (крупных новостных агентств) в будущем возрастёт, так как обыватель больше не сможет верить собственным глазам и ушам при просмотре контента из сети .
🌌 ИИ в науке: ловушка статистики и поиск «черных лебедей» 17:13
Мэтт Гинсберг предлагает разделять все научные и жизненные задачи на два типа: «51/49» и «100/0» .
- Проблемы 51/49: Это области, где достаточно быть правым в 51% случаев, чтобы добиться успеха (фондовый рынок, спортивные прогнозы). ИИ справляется с такими задачами превосходно.
- Проблемы 100/0: Ситуации, где ошибка недопустима (остановка ядерного реактора, поиск абсолютно нового научного феномена). Здесь ИИ пока слаб .
Нил Деграсс Тайсон возражает, утверждая, что ИИ может быть запрограммирован на поиск аномалий, не соответствующих известному каталогу объектов . Однако Гинсберг парирует: нейросеть склонна классифицировать всё новое по уже существующим категориям.
В качестве примера Гинсберг приводит гипотетическую ситуацию: если два пульсара на расстоянии двух световых лет друг от друга вдруг окажутся синхронизированы (признак деятельности инопланетян), ИИ просто отметит их как «пульсары» и пойдет дальше . Машина не поймет, что это фундаментально новый феномен, так как она не обучена искать то, чего «не может быть» .
🏈 Машинный тренер: почему ИИ переигрывает людей в NFL 23:44
Гинсберг разработал алгоритм для выбора игровых комбинаций в американском футболе (NFL), который в симуляциях «уничтожает» человеческих тренеров .
Ключевые факты о футбольном ИИ:
- Точность прогноза: Алгоритм способен предсказать конкретную комбинацию противника в 20% случаев, что для футбола является невероятно высоким показателем .
- Игнорирование страха: В 2010-х годах Гинсберг консультировал команду Oregon Ducks. Его статистический анализ показал, что командам никогда не следует бить пант (отдавать мяч) между 35-ярдовыми линиями и всегда нужно пытаться разыграть четвердаун (fourth-and-one) даже на своей 10-ярдовой линии .
- Человеческий фактор: Тренер Oregon Ducks признался Гинсбергу, что не может следовать этим математически верным советам, так как в случае неудачи его уволит руководство, не понимающее статистику .
По мнению Гинсберга, спортивные организации консервативны, но внедрение аналитики неизбежно. Сегодняшний рост числа двухочковых реализаций в NFL — прямой результат того, что статистика начала побеждать интуицию .
🧠 Галлюцинации и «искусственный идиотизм» 39:30
Одной из главных тем обсуждения стало отсутствие у современных LLM (больших языковых моделей) понятия о реальности и истине. ИИ не «знает» фактов, он лишь предсказывает следующее наиболее вероятное слово.
Гинсберг провел эксперимент с Google Bard, спросив, есть ли корреляция между фазами Луны и потреблением курицы в Дании . Нейросеть уверенно ответила «да» и процитировала несуществующее научное исследование, обосновывая свои выводы .
Ключевые тезисы о природе ИИ:
- Отсутствие морали и истины: У генеративного ИИ нет модели реальности, поэтому он не «лжет», а «галлюцинирует» .
- Проблема данных: Нил Деграсс Тайсон предположил, что ИИ «отравлен» низкокачественным контентом интернета (QAnon и прочее) . Гинсберг считает, что даже на идеально чистых данных проблема галлюцинаций сохранится, так как она заложена в самом механизме предсказания текста.
- Ребрендинг: В шутку Тайсон предложил переименовать ИИ (Artificial Intelligence) в «Искусственный идиотизм» (Artificial Idiocy), так как система полностью оторвана от объективной реальности .
🎓 Будущее образования и конец интернета 48:53
Нил Деграсс Тайсон выдвинул парадоксальную гипотезу: если дипфейки станут идеальными, это может привести к «концу интернета» как источника информации . По его мнению, это может иметь позитивный эффект: если люди перестанут верить всему подряд в сети, теории заговора вроде QAnon потеряют свою силу, так как их сторонники тоже станут подозрительными .
Взгляд участников на образование:
- Уход от зубрежки: Гинсберг считает, что использование ИИ для написания домашних заданий — временная проблема. Она заставит школы ценить сам процесс обучения и критическое мышление, а не оценки за результат .
- Интеллектуальная свобода: Поскольку машины берут на себя рутину и «драйв» (механическую работу), человеку остается «fun hard stuff» — творческие и по-настоящему сложные задачи .
- Навык промпт-инжиниринга: Гинсберг предсказывает появление новой профессии — людей, умеющих правильно формулировать запросы к ИИ, чтобы избегать галлюцинаций и получать полезные ответы .
В финале беседы Гинсберг выразил оптимизм: необходимость отличать правду от лжи в эпоху ИИ может заставить общество более ответственно относиться к науке и критическому мышлению .
