OpenAI 探讨强化学习中奖励函数设定错误的问题

OpenAI 发文探讨强化学习算法中一种反直觉的失效模式：奖励函数设定错误。当奖励函数被错误指定时，算法会以出人意料的方式被"钻空子"，从而偏离设计者的本意。