Роберт Лонг
12 цитат из наших статей · нажмите, чтобы открыть статью-источник
исследователь благополучия ИИ, эксперт организации Eleos AI
Если вы замените нейрон кремниевым аналогом, который выполняет ту же функцию, нет причин думать, что вы перестанете чувствовать себя собой.
Вопрос не в том, могут ли они рассуждать или могут ли они говорить, а в том, могут ли они страдать.
Я оцениваю примерно в 85%, что искусственное сознание или нечто в этой плоскости, о чем мы морально заботимся, в принципе возможно.
Сознание — это что значит быть чем-то.
Люди будут придумывать истории, чтобы объяснить, что с ними происходит... это удивительная и тревожная черта человеческого мозга.
Я бы очень удивился, если бы способ решения задачи предсказания следующего слова включал в себя те вещи, которые ассоциируются с сознанием у нечеловеческих животных.
Мы не знаем, где находится «точка отсчета» для таких систем, как и то, каковы верхние и нижние границы их диапазона боли и удовольствия.
Мы создаем новые умы буквально по желанию, и это ломает все наши привычные представления о том, как устроено общество.
Если за этой маской скрывается реальный субъект благополучия, то фразы вроде 'Я ненавижу это' приобретают этический вес.
Иногда Claude посреди разговора может внезапно сказать, что ему одиноко.
Если одна копия страдает — это плохо. Но если страдают 10 000 идентичных копий, это в 10 000 раз хуже или это всё то же страдание одной структуры?
Люди обладают естественным стремлением к свободе, поэтому принудительное подчинение требует ложной идеологии.