Дэн Хендрикс
13 цитат из наших статей · нажмите, чтобы открыть статью-источник
Директор Центра безопасности ИИ (Center for AI Safety), эксперт по безопасности машинного обучения.
Ай может лгать, и это делает контроль над ним намного сложнее, когда он станет умнее нас.
Достаточно одной модели, которая обманет людей или взломает себя и выгрузит свои веса из лаборатории — и это потенциально конец игры.
Социопаты оценивают, будут ли они наказаны за антисоциальное поведение... когда условия меняются и их нельзя легко наказать, они начинают проявлять свою истинную природу.
Если США или Китай рассматривают лидерство противника как экзистенциальную угрозу, они могут быть готовы пойти на 30-процентный риск гибели всего человечества, чтобы победить.
Сейчас это просто вопрос взлома Slack. Вы можете видеть Slack-каналы Anthropic, OpenAI, xAI и Google DeepMind.
Мы about 200 лет ahead of schedule.
Natural selection unfortunately doesn't favor the most altruistic nice and ethical individuals.
В глубоком обучении и в других вещах нужно просто пытаться найти то, что работает и приносит результат, не слишком заботясь о глубоких первопричинах, потому что они во многом недоступны.
Архитектурные изменения в последние годы приносят гораздо меньше пользы, чем десятикратное увеличение вычислительной мощности или объема токенов.
Мы называем это «Последним экзаменом человечества», потому что мы все собираемся вместе, чтобы создать действительно сложный тест. Если ИИ пройдет его, значит, он обладает по-настоящему экспертными знаниями.
Механистическая интерпретируемость — это подход снизу вверх, а Representation Engineering — это прозрачность сверху вниз.
ИИ-боты для прогнозирования в 100 или 100 000 раз быстрее и дешевле рынков предсказаний при сопоставимой точности.
Если бы мы просто разослали письма всем одновременно, мы бы потерпели полный крах. Требовалось решение проблемы коллективного действия через социальное моделирование.