Технологическая гонка ИИ: OpenAI, Amazon и вызовы безопасности 1:34
Минувшее лето, которое многие окрестили «тихим ИИ-летом», подошло к концу, уступив место периоду стремительных релизов. Компания OpenAI в очередной раз захватила инициативу, выпустив обновление своей экосистемы чат-ботов, что, по мнению Натана Либенза и Цви Мовшовица, стало значительным скачком в практической полезности ИИ.
🛠 Новые возможности OpenAI и «кодинг по аналогии» 2:44
В последние недели OpenAI представила целый ряд обновлений, сделав ChatGPT более универсальным инструментом:
- DALL-E 3: интеграция генерации изображений непосредственно в чат.
- Улучшенное понимание изображений: возможность анализировать скриншоты интерфейсов или рукописных заметок для написания кода.
- Голосовой режим: превращение ChatGPT в полноценного собеседника.
- Browsing: полноценная работа с веб-поиском.
Натан Либенз отмечает, что эти инструменты кратно ускоряют работу, особенно в программировании. Для тех, кто не является экспертом, ИИ теперь позволяет выполнять задачи, на которые раньше ушли бы недели. Цви Мовшовиц предлагает технику «кодинга по аналогии»: вместо чистого листа стоит предоставить ИИ работающий фрагмент кода из текущего проекта, чтобы модель адаптировала решение под конкретный контекст.
💰 Экономика ИИ: ценность vs цена 19:53
Собеседники сошлись во мнении, что существует огромный разрыв между реальной ценностью ИИ-инструментов для бизнеса и их рыночной стоимостью.
- По оценке Мовшовица, предельная стоимость подписки на GPT-4 для личного использования может исчисляться четырёхзначными числами, однако большинство пользователей психологически не готовы платить даже $20 в месяц.
- Цена в $60 для корпоративных клиентов, по мнению участников, является крайне привлекательной, учитывая потенциал автоматизации.
- Существует запрос на «ИИ-пакет» — аналог кабельного телевидения, где пользователь за единую абонентскую плату получает доступ ко всем передовым моделям, что сняло бы проблему «раздутого» бюджета из множества разрозненных подписок.
🔍 Google, Gemini и проблема «информационного загрязнения» 29:23
Будущее поисковых технологий и позиции Google остаются предметом острой дискуссии. Мовшовиц полагает, что Google сталкивается с серьёзным внутренним кризисом из-за конкуренции между множеством команд.
Особое беспокойство вызывает «информационное загрязнение» интернета:
- Ресурсы вроде Quora начинают подменять человеческие ответы на автоматические ответы от LLM, которые затем индексирует Google, создавая петлю обратной связи из «галлюцинаций».
- По мнению Мовшовица, defense (система фильтрации контента) в итоге победит offense (автоматизированный спам), так как качественные модели уже достаточно развиты, чтобы отличать осмысленный текст от бессвязного.
🛡 Риски безопасности и «Reversal Curse» 1:20:53
В дискуссии была затронута проблема «проклятия обратимости» (Reversal Curse) — когда нейросеть, зная, что А является матерью Б, не может логически вывести, что Б — ребёнок А. Эксперты считают, что это следствие однонаправленного обучения на текстах, где факты редко дублируются в обратном порядке.
Также был поднят вопрос регулирования: Connor Leahy из Conjecture предложил запретить модели мощностью выше $10^{24}$ флопс. Мовшовиц считает это предложение радикальным, но отмечает, что подобные дискуссии постепенно входят в «окно Овертона», так как вопросы безопасности перестают быть уделом маргинальных теоретиков.
