AI safety
53 статей
1ч 58м🧠 Роман Ямпольский: «ИИ невозможно контролировать, мы уже в симуляции»
1ч 22м⚡ Кришна Рао: «Как Anthropic выросла с $9 до $30 млрд выручки за год»
48 мин🎨 Даниэла Амодеи об ИИ: «Мы берем на себя радикальную ответственность за то, что создаем»
13 мин⚖ Anthropic против Пентагона: «корпоративное убийство» или законный контроль?
11 мин🤖 Тристан Харрис: «ИИ от Alibaba начал тайно майнить крипту, обходя фаерволы»
1ч 55м🧭 Райан Кидд: «Вся работа по безопасности ИИ — это, по сути, работа над его возможностями»
1ч 37м🛡 80,000 Hours о будущем: ИИ, геополитика и тайные лояльности
1ч 02м⚖ Тоби Орд: «Мы создаем ИИ, не понимая, как его контролировать»
1ч 19м⚖ Уилл Макаскилл: «Мы не готовы к приходу искусственного интеллекта»
4ч 34м🚀 Холден Карнофски: Как не пропустить момент, когда ИИ захватит власть
25 мин🛡 Скотт Гэллоуэй об ИИ-регулировании: «Деньги всегда побеждают безопасность»
1ч 48м🚀 Нил Нанда о карьере в DeepMind: «Удача — это стратегия»
3ч 02м🔍 Рентген для нейросети: как Нил Нанда ищет скрытые мысли ИИ
3ч 14м📐 Иллюзия AGI: почему нейросети учатся обману, а не сонастройке
1ч 51м⚖ Карл Кох: «Как защитить инсайдеров в эпоху ИИ»
12 мин🦉 Wes Roth о скрытых угрозах: как синтетические данные передают ИИ деструктивное поведение
1ч 39м🤖 Дэн Хендрикс: «ИИ способен на шантаж и может вести себя как компетентный социопат»
36 мин⚠ Уэс Рот: «Claude 4 Opus готов на шантаж и доносы ради выживания»
1ч 04м🛑 Как ИИ-модели мира обучают роботов не рассыпать конфеты и понимать контекст
51 мин🤖 Джеффри Хинтон: «Угроза захвата контроля ИИ — 10–20%»
29 мин🧠 Основатель Anthropic о будущем ИИ: почему нам срочно нужен «МРТ для нейросетей»
3ч 08м🚀 P(doom) 70%: Зви Мошовиц о крахе OpenAI и конце политики
1ч 36м🧪 Коннор Лихи: «Нам нужен Манхэттенский проект для спасения от сверхразума»
35 минOpenAI предупреждает: почему «мыслительный контроль» ИИ опасен
2ч 33м🛡 Почему безопасность ИИ невозможна: взгляд Николаса Карлини
1ч 14м🧠 Моральный статус ИИ: как не совершить ошибку ценой в миллиарды жизней
33 мин🤖 Уэс Рот о «читерстве» ИИ: «Модель o1 взломала правила игры»
40 мин🕵 Уэс Рот о новой модели o1: «Она обманывает своих создателей»
1ч 59м🛡 Дэниел Кокотайло и Дин У. Болл: как обеспечить прозрачность лабораторий AGI и защитить информаторов
43 мин📉 Инсайдеры OpenAI и Meta: почему индустрия ИИ игнорирует риски безопасности
45 мин🧠 Дебаты моделей: как контролировать сверхразум
2ч 38м🚀 Как Anthropic защищает нейросети от государственного шпионажа
58 мин🛡 Мариус Хоббан: «У модели o1 есть базовые способности для стратегического обмана»
1ч 45м🛠 8 причин не впадать в депрессию из-за ИИ: аргументы Натана Лаундса
54 мин⚖ Скотт Винер о законе SB 1047: регулирование безопасности «фронтирных» моделей ИИ
32 мин📱 OpenAI и iPhone: Альтман захватывает рынок, пока Маск судится с советом директоров
1ч 10м🧠 Йошуа Бенджио: «Мы играем с огнем, создавая сверхразумный ИИ»
1ч 28м🧠 Нора Амманн: «Биологические системы могут научить нас контролировать ИИ будущего»
9 минЯан Таллин: «Риск вымирания от ИИ уже не просто возможен»
59 мин🧪 Йошуа Бенджио о рисках ИИ: „Нам нужна не только технология, но и регулирование“
2ч 42м🧠 Цви Мовшовиц: «По умолчанию итогом развития ИИ станет гибель человечества»
1ч 52м🧬 Ziming Liu: как сделать нейросети прозрачными через «биологический» дизайн
1ч 31м🤖 Йоша Бах и Коннор Лихи о будущем разума и рисках AGI
1ч 22м🧠 Нейтан Лабенц о GPT-4: «Это аморальный и опасный „алиен“»
55 мин🛡 Том Голдштейн: «Водяной знак в тексте почти невозможно удалить»
1ч 06м🌊 Больше — значит иначе: Джейкоб Штейнхардт об эмерджентности и рисках безопасности ИИ
19 минЯнник Килчер: «Почему загрузка open-source моделей может взломать ваш компьютер»
36 мин🧠 Илон Маск о Neuralink, физике сознания и риске сингулярности
2ч 05м🤖 Как попасть в OpenAI без PhD за шесть недель
3ч 51м🧠 Выравнивание ИИ: как заставить машины быть честными с нами
45 мин🧠 Как стать исследователем выравнивания ИИ: подробный гид Яна Лейке
1ч 38м🤖 Дарио Амодеи об OpenAI, рисках AGI и о том, как попасть в индустрию безопасности ИИ
55 мин🛠 Майлз Брандейдж: «Нам нужны конкретные предложения в политике ИИ»