OpenAI 与 DeepMind 提出从人类偏好中学习目标的方法
OpenAI 与 DeepMind 安全团队合作开发了一种算法，通过让人类判断两种候选行为哪个更好，来推断人类想要的目标。该方法旨在减少人工编写目标函数的需求，因为用简单代理替代复杂目标或目标设定稍有偏差，都可能导致不良甚至危险的行为。
推荐理由：OpenAI 与 DeepMind 安全团队提出用人类偏好比较替代手写目标函数，读者可了解早期对齐研究的一条思路。
论文研究
全部主题值得读的 AI 论文与研究成果：架构创新、训练方法、能力测量与理论进展的精选解读。
最新精选
OpenAI News精选AI 评分
OpenAI News精选AI 评分 OpenAI 发布可在实体机器人上部署的机器人学习系统
OpenAI 创建了一套机器人系统，完全在模拟环境中训练，并部署到实体机器人上。该系统在看过一次任务演示后就能学会新任务。
推荐理由：OpenAI 展示了一套完全在模拟中训练、可直接部署到实体机器人的系统，读者可了解其单次示范学习新任务的能力。