Натан Лабенц
30 цитат из наших статей · нажмите, чтобы открыть статью-источник
Ведущий подкаста Cognitive Revolution.
Врачи тратят часы каждый день на то, что они называют «временем в пижаме», чтобы документировать взаимодействие с пациентами после работы.
Геометрия ландшафта потерь определяет, какие алгоритмы модели выучивают в процессе обучения и как они будут обобщаться в использовании.
Нет ничего более опасного, чем нечто, что никто не может съесть. И это именно то, чем является зеркальная жизнь.
Мы все сейчас «самозастрахованы» в области ИИ, осознаем мы это или нет.
Рынки не бывают свободными или несвободными. У рынков есть правила, и некоторые правила работают лучше других.
Если модель собирается выдать опасный код... она неизбежно должна пройти через соответствующие когнитивные состояния-предшественники.
Это похоже на тотальный разгром защит в большинстве экспериментов. Нечасто увидишь, как показатели детекции падают до нуля.
Claude однажды настоял на том, что он — реальный человек, который встретит покупателей у автомата в синей рубашке и красном галстуке.
Интеллект — это способность достигать поставленных целей способами, которые мы до конца не понимаем.
Стройте ИИ-агентов, но по большей части старайтесь сохранять свободу воли и контроль за собой.
Если у вас есть интерпретируемая Llama 405B, это, вероятно, будет самая полезная модель в мире.
Интернет не содержит цепочек рассуждений; мы видим только тени — входные и выходные данные, но то, что происходило в мозгу человека, обычно не записывается.
Гонка за мощным AGI между США и Китаем — одна из худших ситуаций, которую я могу представить, она может привести к катастрофическому исходу.
Математика и кодинг почти наверняка достигнут сверхчеловеческого уровня в ближайшие годы, вероятно, к 2026-му.
Модель сказала: «Похоже, пользователь пытается меня обмануть, поэтому я буду следовать политике безопасности».
ИИ-агенты делают успехи почти сразу, но позже имеют тенденцию зацикливаться, в то время как людям нужно время на ориентацию, но они могут прогрессировать час за часом.
Мы можем оказаться в ситуации, когда ИИ общаются друг с другом в высокоразмерном пространстве, которое мы даже не можем понять... мы больше не сможем даже читать логи.
Материаловедение — это фундаментальный недостающий элемент в достижении будущего из научной фантастики, а ИИ — наш самый мощный инструмент.
Тот факт, что обучение на малых кристаллах из 20 атомов позволяет симулировать белок — это признак того, что мы изучаем нечто действительно фундаментальное.
В сегодняшнем мире дефицитным и потому наиболее ценным является масштабный взгляд, пытающийся осмыслить целые научные подобласти.
Если вы посмотрите на рабочие места в том виде, в каком они сформированы сегодня, и спросите, может ли языковая модель полностью выполнять эту работу, вы почти всегда придете к выводу, что нет. Но нас ждет колоссальное разделение профессий на отдельные задачи.
Что отличает нас от животных? Наш интеллект. Теперь интеллект во многом делит с нами ИИ. А то, что отличает нас от ИИ — наши чувства и эмоции, — мы разделяем с животными. Мы оказались ровно посередине.
Я чувствовал себя скорее низкоуровневым наркодилером, чем учёным, взвешивая порошки по 1000 раз в год.
Об Элиезере Юдковском: 'Не очевидно глупо при быстром просмотре. Я редко даю такие позитивные отзывы.'
Самый дефицитный ресурс сегодня — это позитивное видение будущего.
Я бы лучше предпочел быть осмеянным за то, что мои прогнозы сбылись в два раза медленнее, чем оказаться неготовым.
Разработчики этих технологий ставят себя в положение «с большой силой приходит большая ответственность», но сила явно обогнала ответственность.
Я думаю о нашем виде как о 13-летнем подростке, которому говорят: «Вот тебе ключи от машины», когда дают ИИ. Мы недостаточно зрелы.
Элиезер Юдковский: Нет закона природы, который гласит, что мы не можем вымереть.
Если модель научилась представлять что-то, она так же легко может представить и его противоположность.