# Уэс Рот: «OpenAI боится выпускать агентов из-за рисков взлома» Источник: https://www.youtube.com/watch?v=KgMpB1CKsMg Канал: Wes Roth Опубликовано: 08.01.2025 --- Сфера искусственного интеллекта начала 2025 год с высокой активности: от новых амбициозных продуктов OpenAI до фундаментальных прорывов в проектировании микросхем. Ведущий канала Wes Roth Уэс Рот анализирует причины задержек долгожданных ИИ-агентов, публичный семейный конфликт Сэма Олтмена и радикальную смену курса Марка Цукерберга в вопросах модерации контента. ## 🤖 OpenAI Operator: почему релиз агентов откладывается [[JUMP:01:06]] Компания OpenAI проявляет осторожность в выпуске своего следующего крупного продукта — ИИ-агентов. Несмотря на то что определенный функционал ожидается уже в этом месяце [01:19], полноценный запуск замедлился. Основной причиной задержки, по словам Уэса Рота, стали опасения по поводу «инъекций промптов» (prompt injections). В коде ChatGPT и в отчетах профильных ресурсов (таких как Testing Catalog и The Information) были обнаружены следы новых функций: * **Operator (Оператор):** Рот отмечает, что это, возможно, первое название продукта OpenAI, которое звучит логично и прямо описывает суть ИИ-агента [01:57]. * **Tasks (Задачи):** Инструмент для планирования и отслеживания выполнения задач. Пользователи смогут задавать время исполнения и получать уведомления о завершении [02:10]. * **Caterpillar (Гусеница):** Кодовое название функции глубокого исследования (Deep Research), аналогичной Gemini от Google. Она позволит ChatGPT самостоятельно искать информацию, открывать веб-сайты и анализировать документы [02:34]. Уэс Рот подчеркивает, что OpenAI опасается выпускать агентов в широкий доступ (а это около 300 млн пользователей), так как злоумышленники могут использовать инъекции промптов для кражи данных, например номеров кредитных карт или секретных документов [04:11]. По мнению ведущего, это бесконечная игра в «кошки-мышки» между хакерами и командами безопасности (red teams) [04:38]. ## ⚖️ Семейная драма Сэма Олтмена: иск сестры и позиция семьи [[JUMP:05:06]] Вокруг генерального директора OpenAI Сэма Олтмена разгорается публичный скандал. Его сестра, Энни Олтмен, в течение долгого времени обвиняла брата в неподобающем поведении, а недавно, по сообщениям СМИ, подала судебный иск [05:20]. Сэм Олтмен, его братья и мать выпустили совместное заявление, в котором изложили свою версию событий: * Семья утверждает, что обвинения Энни являются «абсолютно ложными» [05:58]. * По мнению родственников, Энни сталкивается с серьезными проблемами в области ментального здоровья и отказывается от традиционного лечения [05:58]. * Они считают, что ее иски и публичные заявления — это попытка вымогательства денег у семьи [05:33]. Уэс Рот признается, что эта ситуация вызывает у него «gut-wrenching» (душераздирающее) чувство [07:30]. Он поделился личной историей о близком друге, чья сестра страдала от прогрессирующих психических проблем и проявляла немотивированную ярость, теряя связь с реальностью [06:51]. Из-за этого опыта Рот инстинктивно склонен верить версии Сэма Олтмена, хотя и подчеркивает, что это его личная предвзятость, а истинная картина событий остается неизвестной [07:43]. ## 🎮 ИИ-напарник от Nvidia: будущее гейминга [[JUMP:08:10]] Nvidia представила прототип ИИ-компаньона для видеоигр (на примере PUBG). Этот помощник работает на базе нейросетей и способен взаимодействовать с игроком в реальном времени [08:23]. Ключевые возможности технологии: 1. Голосовое управление: игрок может отдавать вербальные команды ИИ. 2. Тактическая поддержка: ИИ может «прикрывать спину» или помечать (пинговать) найденные предметы и врагов [08:37]. 3. Обучаемость: напарник способен обучаться и применять полуинтеллектуальные тактики боя [08:50]. Хотя игра с реальными людьми остается приоритетом, Уэс Рот считает, что подобные ИИ-напарники предложат уникальный игровой опыт [09:04]. ## 🧬 «Нечеловеческий» дизайн: прорыв в проектировании чипов [[JUMP:09:04]] В журнале *Nature Communications* опубликовано исследование ученых из Принстонского университета и Индийского технологического института. Они разработали методологию, при которой ИИ проектирует радиочастотные микросхемы [09:18]. Результаты работы поразили исследователей: * **Скорость:** то, что раньше требовало недель высококвалифицированного труда, ИИ выполняет за часы [10:11]. * **Эффективность:** чипы, созданные ИИ, показывают производительность, недостижимую для человеческого проектирования [10:24]. * **Странный дизайн:** ведущий исследователь Кошик Сенгупта утверждает, что дизайн чипов выглядит «неинтуитивным» и «случайно сформированным». По его словам, человеческий разум вряд ли мог бы создать такие структуры, и люди не до конца понимают, почему они работают лучше стандартных решений [10:11]. Рот проводит аналогию с AlphaGo, которая делала «инопланетные» ходы в игре го, сначала казавшиеся людям ошибочными, а затем приводившие к победе [10:52]. Аналогичный прогресс наблюдается в проекте Eureka от Nvidia, где ИИ создает более эффективные алгоритмы вознаграждения для обучения роботов, чем люди [11:05]. ## 🛡️ Марк Цукерберг и свободная речь: Meta меняет правила игры [[JUMP:11:31]] Марк Цукерберг объявил о значительном культурном сдвиге в Meta. Компания планирует отказаться от традиционных внешних фактчекеров в пользу системы, аналогичной Community Notes (Сообщества) в социальной сети X (бывший Twitter) [11:45]. Аргументы Цукерберга и контекст изменений: * По мнению Цукерберга, традиционные фактчекеры часто были политически предвзяты, что разрушало доверие пользователей к платформе [11:45]. * Meta намерена приоритезировать свободу слова вместо «цензуры и политических мнений, спускаемых сверху» [12:12]. * Уэс Рот отмечает, что Цукерберг фактически копирует стратегию Илона Маска, внедряя децентрализованную проверку фактов силами сообщества [11:31]. Рот с иронией демонстрирует популярный дипфейк-ролик, где лица Цукерберга и Маска наложены на кадры из фильма про Мистера Бина, иллюстрируя «списывание» идей одним технологическим гигантом у другого [11:59].