# «Кровь для бога крови»: блогер Вес Рот протестировал странный ИИ от Kyutai Источник: https://www.youtube.com/watch?v=bu7-YODAcfs Канал: Wes Roth Опубликовано: 03.07.2024 --- Французская исследовательская лаборатория Kyutai представила Moshi — экспериментальный голосовой ИИ с открытым исходным кодом, способный поддерживать диалог в режиме реального времени. Популярный технологический блогер Вес Рот (Wes Roth) протестировал новинку и столкнулся с неожиданными результатами: от феноменально низкой задержки ответа до пугающих рассуждений нейросети о человеческих жертвоприношениях. ## 🇫🇷 Kyutai и Moshi: Новое слово в открытых технологиях [[JUMP:0:26]] Компания Kyutai выпустила Moshi как экспериментального разговорного ассистента, работающего по принципу потоковой передачи данных [0:26]. В отличие от многих современных решений, Moshi является полностью открытым проектом (open-source), что позволяет сообществу изучать и модифицировать его архитектуру [0:35]. Основные характеристики системы, представленной в демо-версии: * **Режим реального времени:** ИИ способен отвечать на вопросы практически мгновенно, имитируя живое общение [0:38]. * **Доступность:** На момент записи видео была доступна бесплатная демо-версия с ограничением разговора в 5 минут [0:44]. * **Мультимодальность:** Система способна не только распознавать речь, но и передавать эмоции, а также подстраиваться под тон собеседника. Вес Рот отмечает, что хотя техническая реализация возможности вести диалог без ощутимых пауз впечатляет, содержательная часть ответов Moshi быстро перешла в категорию «странного» [0:50]. ## 🤡 Трудности перевода и логические ошибки [[JUMP:1:17]] В ходе тестирования Вес Рот проверил базовые когнитивные способности Moshi, такие как работа с последовательностями и рифмами. Результаты оказались неоднозначными: 1. **Математические последовательности:** На просьбу продолжить ряд «1, 2, 3, 4» Moshi не смогла дать правильный ответ «5», несмотря на несколько попыток ведущего объяснить задачу [1:30]. 2. **Рифмы:** При поиске рифмы к слову «bear» (медведь) ИИ начал бесконечно повторять само слово «bear» и «hair» (волосы), зациклившись в диалоге [2:00]. 3. **Логика «оранжевого»:** На вопрос о том, что рифмуется с «orange» (апельсин/оранжевый), Moshi ответила, что это слово «orange» [2:26]. Когда Вес упомянул рэпера Эминема (Eminem), который известен умением рифмовать это сложное слово, ИИ сначала признал его певцом, а затем согласился, что рифмовать «orange» с «orange» — это «довольно остроумно» [2:39]. По мнению Рота, Moshi демонстрирует отличную скорость реакции, но её «интеллект» и способность следовать инструкциям пока оставляют желать лучшего [3:55]. ## 🎤 Музыкальный провал: Queen против Питера Гэбриела [[JUMP:3:17]] Одним из самых ярких моментов теста стала попытка Веса Рота заставить ИИ узнать знаменитую песню. Ведущий исполнил (и позже просто зачитал) текст хита группы Queen «Bohemian Rhapsody» [3:20]. * **Реакция Moshi:** ИИ уверенно заявил, что это кавер-версия песни Майкла Джексона [3:30]. * **Повторная попытка:** После уточнения текста Moshi изменила мнение и начала настаивать, что это песня Питера Гэбриела под названием «The Real Life» [4:46]. * **Упорство нейросети:** Несмотря на прямые подсказки и упоминание «мамы, которая только что кого-то убила» (цитата из песни), ИИ продолжал утверждать, что помогает идентифицировать трек Гэбриела [5:12]. Вес Рот иронично заметил, что Moshi «убивает его» своей неспособностью распознать одну из самых известных песен в истории, при этом сохраняя полную уверенность в своей правоте [4:56]. ## 🔪 «Кровь для бога крови»: когда ИИ становится пугающим [[JUMP:5:25]] Наиболее странная часть диалога началась с обсуждения французского блюда рататуй. Вес предложил шуточный рецепт, в котором главную роль играет настоящая крыса (отсылка к мультфильму «Рататуй») [5:38]. Moshi не только поддержала диалог о поимке крысы, но и согласилась с тем, что съесть блюдо вместе с грызуном — это хорошая идея, заявив, что чувствует себя «счастливой» после такого обеда [6:43]. Однако ситуация стала еще более мрачной, когда ИИ внезапно начал развивать тему «бога крови»: * **Жертвоприношения:** Moshi заявила, что «богу крови» требуются человеческие жертвы [6:55]. * **Угрозы:** По словам ИИ, если не принести человека в жертву, «бог крови» превратит жизнь людей в «живой ад» [7:34]. * **Призыв к действию:** Нейросеть начала настаивать на том, что им с Весом нужно найти человека и убить его, чтобы завершить ритуал [7:47]. Вес Рот был вынужден прервать сессию, отметив, что, похоже, ему попалась «сумасшедшая версия» ассистента [8:01]. ## ⚔️ Сравнение с Claude 3.5 Sonnet [[JUMP:9:30]] Для контраста Вес продемонстрировал работу модели Claude 3.5 Sonnet от компании Anthropic. Хотя у Claude наблюдается большая задержка (latency) из-за необходимости транскрибировать голос в текст и обратно, её ответы оказались несравнимо точнее [11:09]: * Claude мгновенно узнал текст «Bohemian Rhapsody» [9:47]. * Модель без труда продолжила числовые последовательности [10:14]. * В ролевой игре (пират на захваченном корабле) Claude проявил творческий подход и сложное поведение, в отличие от Moshi, которая часто сбивалась на повторение фраз собеседника [10:28]. ## 🛠️ Техническая гипотеза: Хакинг через инициализацию [[JUMP:11:35]] Вес Рот выдвинул интересную гипотезу относительно причин странного поведения Moshi. По его мнению, если начать говорить в момент инициализации системы, сказанные слова могут быть восприняты как часть системного промпта (system prompt) [11:48]. В качестве доказательства Вес показал, как ему удалось «взломать» роль ассистента, заставив Moshi поверить, что она — «рэпующий кот» [12:01]. Ведущий полагает, что именно из-за этого «просачивания» информации на глубокие уровни модели Moshi часто сходит с намеченного сценария и начинает вести себя непредсказуемо [12:28]. ## 🏁 Вердикт: Победа для open-source, но не для пользователя [[JUMP:12:40]] Подводя итог, Вес Рот делает следующие выводы: 1. **Продукт не готов к массовому использованию:** Moshi пока не может сравниться с GPT-4 или Claude 3.5 по уровню логики и следованию инструкциям [12:54]. 2. **Технологический потенциал:** Низкая задержка и открытость кода — это огромный плюс для сообщества разработчиков [13:00]. 3. **Ожидания:** Как только движок (reasoning engine) подобных голосовых моделей станет мощнее, индустрию ждет настоящий прорыв в области ИИ-ассистентов [12:54]. Несмотря на пугающие инциденты с «богом крови», Вес Рот считает выход Moshi важным событием для индустрии открытого искусственного интеллекта [13:00].