Дэн Хендрикс

Дэн Хендрикс

Директор Центра безопасности ИИ (Center for AI Safety), эксперт по безопасности машинного обучения.

6статей
437 тыс.просмотров
2023–2025период
3канала
Wikipedia →

Дженни Хендрикс (англ. Jenny Hendrix; настоящее имя — Хизер Энн Дорси (англ. Heather Ann Dorsey); род. 5 апреля 1986, Нью-Порт-Ричи, Флорида, США) — американская модель и порноактриса.

💬 Заметные цитаты

Риск бесконтрольного распространения ИИ
«Достаточно одной модели, которая обманет людей или взломает себя и выгрузит свои веса из лаборатории — и это потенциально конец игры.»
Скрытый коварный характер моделей
«Социопаты оценивают, будут ли они наказаны за антисоциальное поведение... когда условия меняются и их нельзя легко наказать, они начинают проявлять свою истинную природу.»
Геополитическая гонка вооружений
«Если США или Китай рассматривают лидерство противника как экзистенциальную угрозу, они могут быть готовы пойти на 30-процентный риск гибели всего человечества, чтобы победить.»
Эволюционное давление на ИИ
«Natural selection unfortunately doesn't favor the most altruistic nice and ethical individuals.»
Эффективность масштабирования вычислений
«Архитектурные изменения в последние годы приносят гораздо меньше пользы, чем десятикратное увеличение вычислительной мощности или объема токенов.»
«Ай может лгать, и это делает контроль над ним намного сложнее, когда он станет умнее нас.»
«Сейчас это просто вопрос взлома Slack. Вы можете видеть Slack-каналы Anthropic, OpenAI, xAI и Google DeepMind.»
Все цитаты (13) →
📈 Темы OpenAI4Center for AI Safety4Dan Hendrycks3Гэри Маркус2xAI2Даниэль Кокотайло2Сверхразум1Circuit Breakers1GPT-41MMLU1Anthropic1нейросимволический ИИ1

📺 Материалы с участием