Х
💬 Заметные цитаты
Опасность концентрации власти
«Исторический опыт показывает, что когда огромная власть концентрируется в руках очень узкого круга игроков, это практически никогда не приводит к хорошим последствиям для общества в целом.»
Проблема термина «alignment»
«I think if you start talking about alignment, you imply there is a clear thing to align to... it’s more one of controllability or steerability.»
Трезвый взгляд на технологию
«Иногда полезно мысленно заменить термин 'ИИ' на 'продвинутую статистику' и посмотреть, сохраняет ли утверждение смысл.»
Последствия технологического изоляционизма
«Если США попытаются запереть технологию в пределах своих границ, лучшим решением для ведущих исследователей станет отъезд за рубеж.»
Информирование совета директоров OpenAI
«О запуске ChatGPT в ноябре 2022 года совет директоров вообще не был предупрежден заранее — участники узнали о релизе из социальной сети Twitter.»
«Сообщения о том, что прорыв в области рассуждений Q* привел к решению совета директоров, были полностью ложными.»
«Похоже, сотрудники находятся в самом сильном положении прямо сейчас, потому что они активно работают над тем, чтобы заменить самих себя.»
«The thing with a race is there’s a finish line... I don’t think it’s that clear on AI.»
📈 Темы
OpenAI6Хелен Тонер5Сэм Альтман2AGI2CSET2whistleblower1Mechanistic Interpretability1AI Safety1Дональд Трамп1Geopolitics1Сэм Олтмен1Meta1
📺 Материалы с участием
1ч 37м🛡 80,000 Hours о будущем: ИИ, геополитика и тайные лояльности
25 мин📉 Крах на рынке ИИ: почему инвесторы теряют веру?
2ч 22м🏛 Хелен Тонер: реальная геополитика ИИ и пределы контроля
1ч 27м🏛 Хелен Тонер: «Слухи о Q* как причине увольнения Сэма Альтмана — полная ложь»
43 мин📉 Инсайдеры OpenAI и Meta: почему индустрия ИИ игнорирует риски безопасности
29 мин💣 Уэс Рот: «OpenAI против Хелен Тонер: становится ли безопасность ИИ токсичным культом?»
41 мин💥 Хелен Тонер: «Сэм Альтман создавал токсичную атмосферу в OpenAI»
1ч 55м🏛 Хелен Тонер: «Попытки изолировать ИИ от внешнего мира обречены на провал»