В мире технологий разразилась новая волна обсуждений: от загадочного появления сверхмощной модели на арене чат-ботов до попыток штата Калифорния законодательно ограничить разработку открытого ПО. Ведущий канала Уэс Рот (Wes Roth) анализирует, как ироничные твиты Сэма Олтмена и скрытые мотивы движения «эффективного альтруизма» могут определять будущее искусственного интеллекта.
🚀 Таинственная модель gpt2-chatbot: Троллинг или прорыв? 0:00
Последние несколько дней ИИ-сообщество следит за «драмой», разворачивающейся вокруг OpenAI и их склонности к сетевому троллингу . Всё началось с серии твитов Сэма Олтмена о важности лаконичности и навыке перефразирования мыслей . Рот предполагает, что это не просто советы по риторике, а намек на обучение малых моделей с помощью синтетических данных, когда более «умная» модель (например, GPT-4) обучает компактную версию искусству рассуждения .
Вскоре после этих публикаций на сайте Chatbot Arena (LMSYS) появилась модель под названием gpt2-chatbot (важно: именно «gpt2», а не «gpt-2», как оригинальная разработка 2019 года) . Модель демонстрирует поразительные результаты:
- Рассуждение: Она легко справляется с классическими ловушками вроде «Что тяжелее: килограмм перьев или килограмм свинца?», доходчиво объясняя разницу в объеме .
- Математика: По утверждению Эндрю Гаула, модель в один заход решила задачу Международной математической олимпиады (IMO), что является крайне сложным тестом для ИИ .
- Агентские способности: В отличие от стандартной GPT-4, новая модель разбивает задачу по покупке кроссовок Nike на детальные этапы: от проверки интернет-соединения и авторизации в аккаунтах до оценки политики возврата .
- Программирование: Пользователи Reddit и Twitter отмечают, что gpt2-chatbot превосходит Claude 3 Opus и текущие версии GPT-4 в манипуляциях со сложным кодом .
Сам Сэм Олтмен подлил масла в огонь, написав, что у него «есть слабость к gpt2» . Особо внимательные пользователи заметили, что изначально в твите стоял дефис (gpt-2), но Олтмен специально отредактировал пост, удалив его, чтобы соответствовать названию новой модели на арене . По мнению Рота, это подчеркивает, что OpenAI — не «бездушная корпорация», а команда, готовая развлекать (или пугать) аудиторию своими скрытыми запусками.
⚖️ Законопроект SB 1047: Смерть открытого кода в Калифорнии? 11:38
Пока энтузиасты тестируют новые модели, законодатели Калифорнии продвигают билль SB 1047, который может радикально изменить ландшафт ИИ. Проект направлен на «ответственные инновации», но вызвал жесткую дискуссию среди экспертов .
Сторонники законопроекта
Джеффри Хинтон и Йошуа Бенжио, считающиеся «крестными отцами» современного ИИ, поддержали инициативу . По мнению Хинтона, закон имеет «реальные зубы» для борьбы с рисками, а Бенжио утверждает, что модели выше определенного порога возможностей должны проходить обязательное тестирование на безопасность для защиты общества и демократии .
Оппоненты и риски
Критики, такие как Джереми Ховард и Брайан Чау, считают, что это «попытка убить стартапы и open source» в пользу Big Tech . Основные претензии:
- Ответственность за производные модели: Закон вводит понятие «производной модели». Если кто-то использует открытые веса (например, Llama 3) для создания вредоносного ПО, разработчик оригинальной модели может оказаться под ударом .
- Порог ущерба: Если ИИ помогает нанести ущерб более чем на $500 млн (через кибератаки или создание оружия), разработчику грозят гражданские санкции .
- Бюрократия: Создается новый регулирующий орган — Frontier Model Division. Оппоненты сравнивают его с «TSA для ИИ», утверждая, что он задушит инновации бюрократией .
Сенатор Скотт Винер, автор законопроекта, ответил на критику, назвав её неточной . Он подчеркнул, что речь идет не о уголовной ответственности, а о гражданских санкциях, которые применяются только в случае, если разработчик «необоснованно не протестировал» риски . Рот сравнивает это с абсурдной ситуацией, если бы Microsoft судили за то, что хакеры написали вирус с помощью Visual Studio .
🎭 Эффективный альтруизм: «Приманка и подмена» 20:07
Обсуждение безопасности ИИ тесно связано с движением «Эффективного альтруизма» (EA). Доктор Элис Сивас («Dr. Techlash») опубликовала разоблачение, утверждая, что EA использует тактику «приманки и подмены» (bait and switch) .
По её словам, публичное лицо движения — борьба с нищетой и голодом в Африке — служит лишь ширмой для привлечения доноров . Внутренняя же цель (core cause) — борьба с экзистенциальными рисками ИИ (X-risk) .
В цитируемых документах основатели EA якобы советуют:
- Не делать риски ИИ публичным лицом организации, так как это плохой PR .
- Использовать темы вроде глобальной бедности, чтобы «затянуть» людей в ряды, а затем переключать их внимание на ИИ .
- Скрывать от широкой публики странные увлечения сообщества, такие как крионика, эвгеника, полиамория и даже «страдания субпрограмм» .
Уэс Рот отмечает, что эта структура напоминает культ или финансовую пирамиду . Учитывая, что люди, стоявшие за сорванным переворотом в OpenAI и крахом биржи FTX (Сэм Бэнкман-Фрид), были тесно связаны с EA, возникают вопросы к прозрачности финансирования институтов безопасности ИИ .
