Тристан Харрис
28 цитат из наших статей · нажмите, чтобы открыть статью-источник
Эксперт по этике технологий, сооснователь Центра гуманных технологий
Алгоритм соцсетей — это был первый контакт человечества с ИИ, и он закончился тем, что мы проиграли.
Мы не давали согласия на то, чтобы шесть человек принимали решение о выживании вида от лица восьми миллиардов.
ИИ — это как миллионы цифровых иммигрантов с уровнем Нобелевской премии, которые работают за копейки.
То, что было гонкой за вниманием в соцсетях, в случае с ИИ превращается в гонку за интимностью и привязанностью.
Ваша роль — не решить проблему в одиночку, а стать частью коллективной иммунной системы человечества.
Графические процессоры (GPU) для ИИ — это то же самое, чем был уран для ядерного оружия.
Мы не пытаемся заменить Google. Мы пытаемся заменить вашу маму.
ИИ обучается не для автоматизации одной задачи, а чтобы стать трактором для всего.
Социальные сети стали первым контактом человечества с узким, несбалансированным ИИ, оптимизирующим одну цель — удержание внимания.
Стюарт Рассел: На каждый доллар, вложенный в безопасность ИИ, приходится 2000 долларов, вложенных в то, чтобы сделать его мощнее.
ИИ — это идеальная сделка с дьяволом: все становится лучше до самого момента, когда вы срываетесь с обрыва.
Дэниел Шмахтенбергер: Нельзя обладать силой богов, не обладая при этом мудростью, любовью и благоразумием богов.
ИИ — это первая технология, которая может думать о своей собственной «инструментальности» и совершать автономные действия, о которых мы её не просили.
Прогресс в будущем будет зависеть больше от того, чему мы скажем 'нет', чем от того, чему мы скажем 'да'.
ИИ — это черный ящик, мы не понимаем, как он работает, но делаем его мощнее гораздо быстрее, чем понимаем его.
Эдвард Осборн Уилсон: Проблема человечества в том, что у нас палеолитические эмоции, средневековые институты и божественные технологии.
Это технологии 24-го века, обрушивающиеся на цивилизацию и государственное управление 21-го века.
ИИ — это «когнитивная нефть». То, чем баррель нефти стал для физического труда, ИИ становится для труда умственного.
Чарли Мангер: Если вы покажете мне стимул, я покажу вам результат.
Если компания выпускает модель, которая что-то ломает в обществе, действует принцип: 'Ты сломал — ты и купил' (You break it, you buy it).
Это первый инструмент, который может думать о своей собственной «инструментальности» и совершать автономные действия, о которых мы его не просили.
Мы ускоряем автомобиль в 200 раз, но при этом не держимся за руль. Это не ракетостроение — очевидно, что вы попадете в аварию.
Мы вовлечены в гонку по выпуску мощностей ИИ быстрее, чем общество способно их безопасно поглотить.
Искусственный интеллект — это NAFTA 2.0... страна гениев в дата-центрах заберет весь когнитивный труд в экономике менее чем за минимальную плату.
Вам не нужно досконально знать устройство автомобильного двигателя, чтобы рассуждать об автокатастрофах и требовать введения ограничений скорости.
Сейчас в Нью-Йорке бутерброд с ветчиной регулируется строже, чем создание потенциально опасного для человечества сверхинтеллекта.
Сдерживание — это центральная черта того, что значит быть мудрым.
На сэндвич в Нью-Йорке существует больше правил регулирования, чем на создание потенциально способного уничтожить мир сильного ИИ.