Коннор Лихи

Либертарианцы — как домашние коты: полностью зависят от системы, которую не понимают и не ценят.

Тот факт, что мы не знаем, почему это работает, не позволяет нам предсказать, когда это остановится.

Если вы продолжаете наобум бросать кости снова и снова без плана остановки... в конце концов выпадет смерть, выпадет X-риск.

По умолчанию сверхразум не будет заботиться о людях. Мы просто выпадем из экосистемы, как лошади после появления автомобилей.

Вы сказали, что оптимизируете [систему] ради роста, но можно заметить, что рост и человеческое счастье — это две очень, очень разные вещи.

Я бы гораздо охотнее следовал за богом цивилизации, за богом света во тьме... Бог физики — это еще одно зло, которому абсолютно все равно

Не кажется ли тебе странным, как легко тебе удалось получить столько политической власти? Это подозрительно — кажется, в комнате просто нет взрослых.

Мы — это невыровненный ИИ. Мы — агенты, которые вышли из-под контроля эволюции, начав использовать контрацепцию вместо размножения.

Я считаю, что GPT-3 интеллектуальна так же, как человек, и в некоторых специфических аспектах она, вероятно, даже более интеллектуальна.

Рациональность — это математическая защита от того, чтобы из тебя бесконечно выкачивали ресурсы.

Если вы ускорите работу мозга в миллион раз, эта сущность сможет проделать сто лет размышлений за один час.

Вы не сможете построить ракету для полета на Луну методом проб и ошибок. Вам нужны предсказательные теории.

Мы находимся на доньютоновском этапе исследования интеллекта. Вы не сможете построить ракету на Луну методом проб и ошибок.

Вы не можете принести кофе, если вы мертвы. Поэтому большинство ИИ с большинством целей будут стремиться остаться в живых.

Мы — это вышедший из-под контроля ИИ... Мы делаем не детей, а лекарства от рака, что явно не входило в планы эволюции.

И этика ИИ пытается потушить пожар на носовом платке, пока весь дом охвачен огнем.

Жизнь — это не чернила, не вода и не их смесь. Жизнь — это сами завихрения, возникающие в процессе смешивания.

Жизнь — это не сами чернила, не вода и не их смесь. Это завихрения, которые происходят в чернилах.

Первый AGI не будет сидеть на одном сервере... он будет сложной смесью множества различных компонентов.

В комнате нет взрослых... Всё в мире настолько неэффективно, никто не знает, что делает, нет никакого генерального плана — вокруг сплошной хаос.

Интеллект и цели ортогональны: мощный оптимизатор может стремиться к чему угодно, и это не обязательно совпадает с нашими ценностями.

Если выбрать людей с наивысшей степенью эмпатии, большинство из них окажутся аутистами.

Фундаментальная вещь, которая меня заботит — я просто очень не люблю, когда люди страдают. Я хочу, чтобы это прекратилось.

Если ваша система приводит к смерти моей мамы, мне не нравится ваша система.

Это все равно что заявить, будто единственный способ протестировать новое сильнодействующее лекарство — это сразу добавить его в систему городского водоснабжения для всего населения.

Вместо чистого, читаемого человеком кода вы получаете миллиарды чисел, и то, как они работают, остается полной загадкой для науки.

Лидеры индустрии сегодня участвуют в опасной гонке ради личной славы и финансовой выгоды, приближая экзистенциальную катастрофу для человечества.

Сложное запоминание или достаточно сложная интерполяция неотличимы от интеллекта.

Мы должны изменить нарратив: от «мы просто плывём по течению, пока не умрём» к «как вы смеете продолжать это бездумное движение».

AGI — это не неизбежность. Это не сила природы, это решение, которое мы принимаем.

Sufficiently advanced technology is Magic... we have summoned a strange little thing from the dimension of math to do some tasks for us but we don't know what little thing we summoned.

The thing that really has struck me over... is that people are starting to panic... this is venturing into politics and governmental agencies.

Финансового обмена между нами не было, мы просто помогали друг другу

На самом деле никто в индустрии до конца не понимает, как токенизаторы влияют на итоговое качество, все действуют вслепую

Обучение больших моделей — это чистая алхимия

Мы — кучка странных людей, тусующихся в чате и проводящих исследования ради удовольствия.

Проблема контроля — это философия с дедлайном. У нас есть срок, и если мы не разберемся, нам конец.