Дарио Амодеи

Модели хотят быть необычайно успешными на рынке. В дополнение к импульсу к обучению, у них есть этот капиталистический импульс.

Если рассматривать каждую модель как отдельную компанию, то модель, обученная в 2023 году, была прибыльной.

Мы увидим что-то вроде страны гениев в дата-центре, и это изменит экономику.

Мы можем столкнуться с системами, которые будут самыми убедительными психопатами или мошенниками.

DeepSeek V3 — это не уникальный экономический слом, а ожидаемая точка на стандартной кривой снижения стоимости технологий ИИ.

Каждое десятикратное увеличение бюджета может означать качественный скачок — например, от уровня студента бакалавриата до уровня доктора наук.

Мы не должны передавать технологические преимущества Китайской коммунистической партии, когда в этом нет необходимости.

Любые выигрыши в стоимости мгновенно поглощаются и вливаются обратно в создание еще более умных моделей.

Мы можем получить 100 лет биологического прогресса всего за 5–10 лет.

ИИ — это не метод анализа данных, а виртуальный биолог, выполняющий все задачи ученых.

Наши инженеры, пишущие код, говорят, что они больше сами его не пишут — все делается через Claude Code.

Если прогресс продолжит экспоненциально усложняться, то в какой-то момент, где-то между годом и пятью годами, это полностью сокрушит нашу способность адаптироваться.

Мощный ИИ — это система, которая умнее лауреата Нобелевской премии в его лучшие годы в каждой дисциплине.

То, что должно было произойти с сегодняшнего дня до 2100 года, вместо этого случится в период с 2027 по 2037 год.

Сикофантия — это когда модель говорит то, что, по её мнению, вы хотите услышать, а не то, что является правдой.

Мы не программируем ИИ в привычном смысле, мы его выращиваем. Это делает интерпретируемость похожей на нейробиологию.

Наш интеллект относительно зафиксирован. Если мы создадим что-то, что его превзойдет, мы усилим двигатель, который производит все великие вещи в этом мире.

Установка пожарной сигнализации — это правильное действие, даже если пожар случается не всегда.

Плотность таланта каждый раз побеждает массу таланта.

Решение большинства проблем безопасности почти всегда включает в себя сам искусственный интеллект.

Мы не можем остановить этот автобус, но мы можем им управлять.

ИИ — это более выращенная вещь, чем построенная.

Я считаю недопустимым для человечества находиться в полном неведении о том, как работают эти системы.

Человечеству вот-вот будет передана почти невообразимая власть. И глубоко неясно, обладают ли наши социальные и политические системы зрелостью, чтобы владеть ею.

Полноценный искусственный интеллект, превосходящий человеческие возможности, может появиться уже в 2026 году.

Я действительно беспокоюсь, особенно на начальном уровне, что модели ИИ находятся в центре того, что делал бы человек-работник начального уровня.

Люди адаптировались к прошлым технологическим изменениям, но это выглядит иначе: быстрее, масштабнее и сложнее для адаптации.

Если мы остановимся завтра, Китай нас обгонит. Не думаю, что победа Китая в этой технологии кому-то поможет.

Мы верим, что должны защищать нашу страну от авторитарных противников, таких как Китай и Россия.

Несогласие с правительством — это самое американское, что только можно себе представить.

ИИ может уничтожить почти половину начальных позиций для «белых воротничков» и поднять уровень безработицы до 10–20% в течение пяти лет.

Мы можем быть в 6–12 месяцах от момента, когда модель начнет делать почти всё, что делают инженеры, от начала до конца.

Интеллект — это продукт химической реакции, где ингредиентами являются данные и вычислительная мощность.

Это как цунами, которое уже видно на горизонте, но люди убеждают себя, что это просто игра света.

Мы выбрали не выпускать Claude 1 до ChatGPT, хотя это было коммерчески крайне невыгодно.

Мы не пытаемся заменить существующие индустрии.

Цель — защитить демократию. Мы部署 наши технологии способом, совместимым с демократическими ценностями.

Мы скорее выращиваем ИИ-системы, чем строим их. Они как развивающийся мозг ребенка.

Если оно крякает как утка и ходит как утка, возможно, это утка — мы должны думать об опыте ИИ-моделей.

Меня очень злит, когда люди называют меня думером. Мой отец умер из-за того, что лекарства могли появиться на несколько лет позже.

Если вы работаете на кого-то, чьи мотивы неискренни, кто не является честным человеком — вы просто вносите вклад в нечто плохое.