💬 Заметные цитаты
Риск бесконтрольного распространения ИИ
«Достаточно одной модели, которая обманет людей или взломает себя и выгрузит свои веса из лаборатории — и это потенциально конец игры.»
Скрытый коварный характер моделей
«Социопаты оценивают, будут ли они наказаны за антисоциальное поведение... когда условия меняются и их нельзя легко наказать, они начинают проявлять свою истинную природу.»
Геополитическая гонка вооружений
«Если США или Китай рассматривают лидерство противника как экзистенциальную угрозу, они могут быть готовы пойти на 30-процентный риск гибели всего человечества, чтобы победить.»
Эволюционное давление на ИИ
«Natural selection unfortunately doesn't favor the most altruistic nice and ethical individuals.»
Эффективность масштабирования вычислений
«Архитектурные изменения в последние годы приносят гораздо меньше пользы, чем десятикратное увеличение вычислительной мощности или объема токенов.»
«Ай может лгать, и это делает контроль над ним намного сложнее, когда он станет умнее нас.»
«Сейчас это просто вопрос взлома Slack. Вы можете видеть Slack-каналы Anthropic, OpenAI, xAI и Google DeepMind.»
«Мы about 200 лет ahead of schedule.»
👥 Часто вместе с
📺 Где появляется
📈 Темы
OpenAI4Center for AI Safety4Dan Hendrycks3Гэри Маркус2xAI2Даниэль Кокотайло2Сверхразум1Circuit Breakers1GPT-41MMLU1Anthropic1нейросимволический ИИ1
📺 Материалы с участием
1ч 39м🤖 Дэн Хендрикс: «ИИ способен на шантаж и может вести себя как компетентный социопат»
1ч 39м🎭 ИИ-социопаты и биологическое оружие: Дэн Хендрикс о рисках гонки за сверхразумом
2ч 07м🛡 Взломать Slack ради AGI: геополитика и скрытые пробелы нейросетей
2ч 07м🤖 Гонка за AGI: от экономики изобилия до взлома Slack
2ч 37м🧬 Последний экзамен человечества: Дэн Хендрикс о безопасности сверхразума
49 минДэн Хендрикс о рисках ИИ: «Мы катимся в Brave New World»