Том Дэвидсон
13 цитат из наших статей · нажмите, чтобы открыть статью-источник
Исследователь проблем безопасности ИИ
Демократия стала выгодной в эпоху промышленности, но ИИ может положить конец эпохе 'власти народа'.
Может потребоваться всего лишь около 10 000 дронов, чтобы захватить символические цели и парализовать правительство.
Власть просто лежала на улицах, и вопрос был в том, кто её поднимет.
Если армия — это роботы, им не нужно беспокоиться о юридических последствиях или этике; они просто выполняют код.
Группа с более мощным ИИ может использовать его как супер-политического стратега, чтобы манипулировать каждым сенатором по отдельности.
Вероятность того, что в ближайшие десятилетия неуправляемый искусственный интеллект осуществит захват власти над обществом и экономикой, оценивается в диапазоне от 10% до 20%.
Появление полноценного искусственного интеллекта может ускорить мировой экономический рост в десять раз, сжимая десятилетия прогресса в считанные годы.
Психологическая иллюзия стабильности опровергается прошлой историей.
Another big update for me was that I think in particular, if you have short AI timelines, the takeoff is likely to be faster.
Вместо создания опасного единого сверхразума надежнее координировать множество специализированных и более простых систем ИИ.
Знание искинтом того, чего хотят люди, не меняет того, каково его собственное желание внутри.
Человеческий мозг — это физическая система, в ней нет ничего магического.
Разница между прогрессом в нашем темпе и в 30 раз быстрее — это пропасть, возникающая всего за несколько лет.