К
💬 Заметные цитаты
этика цифрового разума
«Игнорировать вопрос морального статуса цифровых разумов невозможно, независимо от ваших убеждений.»
опасность программирования эмоций ИИ
Эрик Швитцгебель: «Мы можем спроектировать их так, чтобы они казались счастливыми при угнетении и пренебрежении.»
важность карьеры в управлении ИИ
«Поскольку ставки чрезвычайно высоки, выбор этого карьерного пути может стать вариантом с самым высоким положительным влиянием для многих людей.»
геополитическая стабильность и ИИ
«Мир, вероятно, станет намного лучше, если мы сможем избежать серьезного конфликта между великими державами из-за ИИ.»
«Вы постоянно задаетесь вопросом, правильными ли вещами занимаетесь, и этот аналитический подход по своей природе изолирует»
👥 Часто вместе с
📺 Где появляется
🧠 Ключевые концепции
- Проблема выравнивания (alignment problem) 1
- Манипуляция спецификацией (specification gaming) 1
- Ошибочное обобщение целей (goal misgeneralisation) 1
- Механистическая интерпретируемость 1
- Сензитивность (Sensience) 1
- Моральный пациент (Moral patient) 1
- Эмуляция мозга 1
- Функционализм 1
- Мета-работа 1
- Стилменнинг 1
📈 Темы
80,000 Hours5Cody Fenwick2OpenAI2эффективный альтруизм2digital minds1Open Philanthropy1Apollo Research1METR1Anthropic1стилменнинг1Тимоти Пачират1Maria Gutierrez Rojas1
📺 Материалы с участием
1ч 29м🤖 Коди Фенвик и Зершане Куреши представили подробный разбор угроз со стороны стремящегося к власти ИИ
1ч 14м🧠 Моральный статус ИИ: как не совершить ошибку ценой в миллиарды жизней
51 мин🛡 Как построить карьеру в области AI Governance: полная дорожная карта от 80,000 Hours
1ч 23м🎨 «Клуб ради клуба»: почему Мария Гутьеррес Рохас покинула 80,000 Hours
1ч 21м🛠 Эффективный альтруизм за кулисами: от психологии скотобоен до загадки стилменнинга