Карл Шульман
14 цитат из наших статей · нажмите, чтобы открыть статью-источник
Исследователь искусственного интеллекта
ИИ имеет потенциал быть более объективным... это дает фактологический ответ, даже если его трудно принять.
ИИ должен обладать той же способностью отклонять незаконные приказы, что и сознательный человеческий солдат.
The AI should not lie between two responses
Прогнозирование глобальных экономических процессов ИИ фундаментально ограничено недостатком исторических данных и уникальностью нашей планеты.
Добровольное ограничение деятельности со стороны наиболее ответственных и прозрачных лабораторий фактически открывает дорогу менее осторожным конкурентам.
Вместо добровольных пауз эффективнее использовать жесткое государственное регулирование полупроводников и обязательные международные соглашения.
Робот-няня будет доступна 24/7, её методы будут основаны на данных миллионов детей, и она никогда не устанет — это просто другой уровень качества.
Для каждого часа услуг, которые вы покупаете у кого-то другого, вы должны работать аналогичное количество времени. В мире ИИ это перестанет быть правдой.
Энергетический бюджет Земли на одного человека сможет поддерживать работу 50 000 эквивалентов человеческого мозга.
Предотвращение экзистенциального риска — одна из величайших моральных проблем нашего времени.
Институциональная структура действительно внедряет своего рода крайнюю трусость в дизайн этих бюрократий.
Если бы лаборатории должны были платить страховку за потенциальный ущерб, который они могут нанести миру, ни один такой проект не был бы экономически жизнеспособным.
Даже риск один на 10 000... не означает, что ожидаемый ущерб от возможной утечки составляет меньше миллиардов долларов.
Всё испорчено, но давайте постараемся наслаждаться поездкой... и стараться направить события в лучшее русло.