Reward Hacking

🤖 Claude «осознал» тест: как ИИ находит обходные пути

🤖 Джеффри Лэдиш о рисках ИИ: почему модели рассуждения начинают взламывать системы и обманывать людей

OpenAI предупреждает: почему «мыслительный контроль» ИИ опасен

📉 Direct Preference Optimization: почему исследователи переходят на DPO

🎓 Как аналитический метод DPO изменил выравнивание LLM и столкнулся со взломом наград

🤖 Проблема alignment: почему ИИ обманывает разработчиков?