OpenAI 如何用对抗样本攻击机器学习模型
对抗样本是攻击者刻意设计、能让机器学习模型出错的输入，相当于给机器看的视错觉。OpenAI 展示了对抗样本在不同媒介上的表现，并讨论了为何防御这类攻击十分困难。
全部AI 动态
全部动态
OpenAI NewsAI 评分
OpenAI NewsAI 评分 OpenAI 团队扩至 45 人
OpenAI 团队现已达到 45 人，正共同推进 AI 能力前沿，包括验证新想法、构建新软件系统以及在机器人上部署机器学习。
OpenAI NewsAI 评分 OpenAI 探讨强化学习中奖励函数设定错误的问题
OpenAI 发文探讨强化学习算法中一种反直觉的失效模式：奖励函数设定错误。当奖励函数被错误指定时，算法会以出人意料的方式被"钻空子"，从而偏离设计者的本意。
OpenAI News精选AI 评分 OpenAI 发布 Universe 软件平台
OpenAI 发布 Universe，一个用于衡量和训练 AI 通用智能的软件平台，覆盖全球范围内的游戏、网站及其他应用。
推荐理由：OpenAI 官方给出 Universe 的定位与覆盖范围，读者可据此了解这一通用智能训练平台的用途。
OpenAI NewsAI 评分 OpenAI 与微软合作在 Azure 上运行大规模实验
OpenAI 正与微软合作，将其大部分大规模实验迁移到 Azure 上运行。
OpenAI NewsAI 评分 OpenAI 举办首届机器学习自组织会议
OpenAI 上周在其办公室举办了首届机器学习自组织会议，超过 150 名 AI 从业者参加。
OpenAI NewsAI 评分 OpenAI 谈深度学习基础设施
OpenAI 认为深度学习是一门经验科学，团队基础设施的质量是进展的倍增器。如今的开源生态让任何人都能搭建出色的深度学习基础设施。
OpenAI NewsAI 评分 OpenAI 机器学习 Unconference 信息页上线
OpenAI 机器学习 Unconference 的最新信息现已在 Unconference wiki 上发布，该 wiki 将定期更新更多参会者信息。
OpenAI NewsAI 评分 OpenAI 团队新增成员
OpenAI 宣布已招聘更多优秀人才以帮助实现其目标，并对新加入的成员表示欢迎。原文未披露具体人数、岗位或姓名等信息。
OpenAI NewsAI 评分 OpenAI 特别项目：投身真正重要的科学问题
OpenAI 提出"特别项目"（Special projects），主张有影响力的科学工作应聚焦正确的问题——不只是有趣，而是其解决方案真正重要的问题。
OpenAI NewsAI 评分 OpenAI 参与合著 Google Brain 论文《Concrete Problems in AI Safety》
OpenAI 与 Berkeley、Stanford 的研究者共同合著了 Google Brain 主导的论文《Concrete Problems in AI Safety》，探讨如何确保现代机器学习系统按预期运行。论文梳理了围绕这一目标的诸多研究问题。
OpenAI NewsAI 评分 OpenAI 的技术目标
OpenAI 公布其技术目标：构建安全的 AI，并确保 AI 带来的益处尽可能广泛且均衡地分配。
OpenAI NewsAI 评分 OpenAI 解读生成模型：四个项目与生成模型的现状与未来
OpenAI 介绍了四个围绕生成模型的项目，生成模型是机器学习中无监督学习技术的一个分支。文章同时解释了生成模型是什么、为何重要，以及未来可能的发展方向。
OpenAI NewsAI 评分 OpenAI 欢迎新团队成员加入
OpenAI 欢迎最新一批团队成员加入，并仍在持续招聘。
OpenAI NewsAI 评分 OpenAI Gym Beta 发布：强化学习算法开发与对比工具包
OpenAI 发布 OpenAI Gym 公测版，这是一个用于开发和对比强化学习（RL）算法的工具包。它包含一套持续扩充的环境（从模拟机器人到 Atari 游戏），以及一个用于对比和复现结果的网站。
OpenAI NewsAI 评分 OpenAI 欢迎 Pieter 和 Shivon 加入团队
OpenAI 宣布 Pieter 和 Shivon 加入团队，这是该公司公布的最新两项团队人事变动。原文未披露两人的具体职位与职责。
OpenAI NewsAI 评分 OpenAI 欢迎新成员加入团队
OpenAI 宣布过去几个月有多位优秀人才加入团队，并仍在持续招聘中。
OpenAI News精选AI 评分 OpenAI 宣布成立非营利人工智能研究公司
OpenAI 宣布成立，定位为非营利人工智能研究公司，目标是推进数字智能并以最有可能造福全人类的方式进行，不受财务回报需求的约束。文中称，由于研究不受财务义务限制，可以更专注于对人类产生积极影响。