Цви Мовшовиц
25 цитат из наших статей · нажмите, чтобы открыть статью-источник
Эксперт в области ИИ и безопасности
Практически везде, где телевидение стало повсеместным, рождаемость сейчас находится ниже уровня воспроизводства.
If you're building your company... such that when GPT-5 comes in you switch the four to a five in the function call and now suddenly your product just works way better... you're in amazing shape.
Я никогда в жизни не видел компании, руководство которой сказало бы, что у них достаточно инженеров и новые им не нужны.
Даниэль потерял веру в способность OpenAI ответственно ориентироваться в будущем мире AGI и ушел.
Обман — это континуум, он повсеместно присутствует в обучающих данных, и идея о существовании принципиально не-обманывающего ИИ — это просто заблуждение.
Мы находимся в одном поколении моделей от того, чтобы эти агенты начали работать как надо.
Я просто не думаю, что глубокая оборона является жизнеспособной стратегией, когда придет время иметь дело с гораздо более способными моделями, которые умнее и сильнее нас.
Тупость нельзя исправить.
Умный агент повернется против вас точно и только тогда, когда это сработает.
Это черная таблетка для человечества — то, что люди предпочитают ублажение.
Если вы будете читать его дневник, в конце концов он догадается просто не записывать туда свои планы.
Появляется всё больше доказательств того, что RL напрямую вредит сонастройке... модели становятся менее сонастроенными в обычном смысле.
Если вы не получаете больших новых парадигм развития... то самые экстремально быстрые сценарии [появления AGI] отпадают сами собой.
Проблема авторитаризма в том, что коммуникация и координация даются с трудом. Центральные планировщики на протяжении всей истории совершали огромные ошибки не из вредности, а из-за невежества.
Его кавалерское отношение — «ничего особенного, просто самореплицирующийся ИИ на моих серверах» — это определение «обезьяны с гранатой».
The biggest weakness of Claude 2 is it's scared of its own shadow.
Если вы не можете прочитать контекст документа, который я вам дал... то вы бесполезны.
С момента, как вы пытаетесь смешать вещи, которые пересекаются, модель теряет нить почти мгновенно.
Знание того, как работает гипноз, не делает вас менее восприимчивым к нему. Более того, оно может сделать вас более уязвимым.
В тот момент, когда вы добавляете слово «максимальный» к любой цели для ИИ, вы по умолчанию получаете стремление к власти и ресурсам.
Мы пытаемся сохранить контроль над чем-то, что умнее нас, способнее нас и эффективнее нас. Это крайне неестественное желание.
«Если вы спросите меня, какова фактическая предельная стоимость использования GPT-4... это минимум четырёхзначные цифры в месяц».
«Defense, вероятно, победит offense в борьбе с инфо-загрязнением, так как модели уже достаточно хороши для фильтрации».
Попытка полагаться исключительно на пост-тренинг при создании сверхинтеллекта — это опасная иллюзия
Истинный «думер» — это тот, кто считает, что гибель неизбежна и любые действия бессмысленны