# ИИ на грани опасности: почему Google предупреждает о критических способностях Gemini Deep Think в области биологии Источник: https://www.youtube.com/watch?v=-FSt-8aiMfU Канал: Wes Roth Опубликовано: 01.08.2025 --- Ведущий канала Уэс Рот (Wes Roth) анализирует свежий релиз от Google — модель Gemini 2.5 Deep Think, которая ранее продемонстрировала выдающиеся результаты на Международной математической олимпиаде. Однако параллельно с восторгом от технических достижений, сами разработчики и исследователи безопасности выражают серьезную обеспокоенность: возможности ИИ в области биологического и химического оружия приближаются к «критическим уровням». ## 🆕 Релиз Gemini 2.5 Deep Think: возможности и ограничения [[JUMP:0:00]] Google официально представила новую модель Gemini 2.5 Deep Think, однако доступ к ней на текущий момент крайне ограничен. Насладиться мощью «глубокого мышления» могут только подписчики плана Google AI Ultra, стоимость которого составляет 250 долларов в месяц [0:00]. Техническая специфика и ограничения модели: * **Параллельное мышление:** Модель использует методы усиленного обучения (reinforcement learning) и параллельные вычисления, что позволяет ей «думать» над задачей одновременно с нескольких сторон, выдавая более детализированные и продуманные ответы [0:26]. * **Жесткие лимиты:** Уэс Рот предупреждает, что сейчас пользователям доступно всего около пяти чатов в сутки [0:39]. После этого наступает 24-часовая блокировка, что делает невозможной быструю итерацию и уточнение запросов. * **Риск «испорченного желания»:** Из-за ограниченного количества попыток ведущий сравнивает работу с моделью с джинном: если запрос сформулирован нечетко, вы рискуете потратить драгоценный кредит на бесполезный результат [1:17]. В качестве примера Уэс Рот приводит попытку создать 3D-симуляцию городского трафика. Первая попытка оказалась неудачной (модель выдала лишь график), съев лимит [1:31]. Однако при повторном запуске Deep Think продемонстрировала значительное превосходство над стандартной Gemini 2.5 Pro. В частности, Google в своем официальном блоге показывает сравнение генерации 3D-модели пагоды: версия Deep Think создает гораздо более сложную архитектуру с пустотами, изгибами и высокой детализацией окружения (теней, деревьев и воды) [2:40]. ## ⚠️ «Критический уровень»: предупреждение исследователей [[JUMP:0:3:05]] Самым резонансным аспектом релиза стали заявления самих сотрудников Google DeepMind. Сэмюэл Олбани (Samuel Albany), один из исследователей в команде разработки, отметил, что модель демонстрирует пугающую способность не просто пересказывать научные данные, а синтезировать идеи из разных исследовательских работ способами, которые раньше не наблюдались у ИИ [3:18]. Ключевые опасения, изложенные в технической документации (Model Card): * **Синтез знаний:** Если старые модели (вроде GPT-3.5) с трудом объединяли знания из разных областей, то Deep Think делает это на уровне, который «требует тщательной оценки» [3:30]. * **Риски CBRN:** Термин CBRN охватывает химические, биологические, радиологические и ядерные угрозы. Google признает, что модель генерирует подробные технические знания в этих областях [5:00]. * **Уровни критических способностей (CCL):** Google ввела метрику Critical Capability Level. Если модель приближается к этому порогу, требуется пауза в разработке для внедрения защитных мер. Согласно отчету, в области биологии и химии Deep Think показывает лучшие результаты среди всех существующих моделей, и Google пока не может однозначно утверждать, что «критический уровень» (CCL) еще не достигнут [6:07]. По словам Рота, хотя модель все еще имеет пробелы в создании пошаговых безошибочных протоколов для создания оружия «под ключ», она максимально близко подошла к тому, чтобы стать опасным инструментом в руках злоумышленников [6:47]. ## 🧪 Индустрия в тревоге: маркетинг или реальная угроза? [[JUMP:0:7:02]] Google — не единственная компания, бьющая в колокола. В апреле 2024 года OpenAI предупредила, что модели с высоким риском содействия в создании биооружия станут реальностью в ближайшее время [7:02]. Лаборатории xAI (Grok) и Anthropic также публикуют работы по методам управления рисками в биологических исследованиях и кибербезопасности [7:26]. В сообществе существуют две полярные точки зрения: 1. **Скептическая:** Многие эксперты и пользователи считают такие предупреждения маркетинговым ходом. Уэс Рот упоминает мнение, согласно которому Сэм Альтман (OpenAI) и другие лидеры индустрии раздувают опасность своих моделей («они настолько мощные, что могут уничтожить мир!»), чтобы привлечь инвестиции и оправдать высокую оценку компаний [8:05]. 2. **Тревожная:** Сам Сэм Альтман утверждает, что «мигалки уже горят», а мир не воспринимает угрозу всерьез [8:18]. Исследователь Google Сэмюэл Олбани, по мнению ведущего, вряд ли делает такие заявления ради курса акций — скорее, он искренне обеспокоен скоростью автоматизации R&D (научных разработок) [8:43]. ## 🧮 Прорывы в математике и программировании [[JUMP:0:9:09]] Помимо биологических рисков, Deep Think показала феноменальные результаты в точных науках. Модель в составе специализированной системы завоевала золото на Международной математической олимпиаде [0:13]. Важным достижением стало то, что ИИ понимал условия задач на естественном языке, а не на языке программирования, как это требовалось ранее [9:21]. Модель также смогла доказать математическую гипотезу, которую люди не могли решить до этого момента [9:35]. По словам исследователей, там, где человек пробует 2–3 подхода, Deep Think может параллельно прорабатывать 100 различных вариантов решения, что и обеспечивает такие прорывы [9:48]. Другие примеры практического применения, упомянутые в видео: * **Язык TikZ:** Модель отлично справляется с созданием сложных научных диаграмм и графиков [10:01]. * **Генерация игр:** Пользователи уже используют Deep Think для создания «одноразовых» (one-shot) игр с нуля, таких как 3D-шутеры в стиле Space Invaders или интерфейсы управления ядерными реакторами в стиле киберпанк [10:55]. * **3D-интерфейсы:** Итан Моллик (Ethan Mollick) продемонстрировал созданный моделью 3D-интерфейс для космического корабля, который можно вращать и изучать [10:29]. В завершение Уэс Рот делится личной историей Брайана Армстронга, CEO Coinbase, который для глубокой фокусировки слушает один и тот же трек Gareth Emery — *Long Way Home* более 60 раз подряд на репите [11:22]. Ведущий призывает зрителей попробовать модель, но быть крайне осторожными с формулировкой промптов из-за жестких лимитов.