OpenAI 与 Anthropic、Google、Microsoft 公布 Frontier Model Forum 新执行董事及 1000 万美元 AI 安全基金
OpenAI 联合 Anthropic、Google 和 Microsoft 宣布了 Frontier Model Forum 的新任执行董事，并设立 1000 万美元的 AI 安全基金。
全部AI 动态
全部动态
OpenAI NewsAI 评分
OpenAI NewsAI 评分 OpenAI 公开招募红队网络成员
OpenAI 宣布公开招募 Red Teaming Network 成员，邀请各领域专家参与提升其模型安全性。该网络面向有兴趣改进 OpenAI 模型安全的领域专家开放申请。
OpenAI NewsAI 评分 OpenAI 首届开发者大会将于 11 月 6 日在旧金山举行
OpenAI 将于 11 月 6 日在旧金山举办首届开发者大会，现场参会报名将在未来几周开放，全球开发者可在线观看主题演讲直播。
OpenAI NewsAI 评分 OpenAI 与 Scale 合作，为企业微调模型提供支持
OpenAI 与 Scale 达成合作，企业客户可借助 Scale 的 AI 专业能力微调 OpenAI 最先进的模型。
OpenAI NewsAI 评分 OpenAI 收购 Global Illumination
OpenAI 宣布收购 Global Illumination，该公司整个团队已加入 OpenAI。
OpenAI NewsAI 评分 OpenAI 联合组建 Frontier Model Forum 前沿模型论坛
OpenAI 参与组建新的行业机构 Frontier Model Forum，旨在推动前沿 AI 系统的安全与负责任开发。该论坛将推进 AI 安全研究、确定最佳实践与标准，并促进政策制定者与行业间的信息共享。
OpenAI NewsAI 评分 OpenAI 与头部实验室以自愿承诺推进 AI 治理
OpenAI 与其他领先实验室通过自愿承诺强化 AI 的安全、安保与可信度，推动 AI 治理向前迈进。
OpenAI NewsAI 评分 OpenAI 与美国新闻项目合作支持本地新闻
OpenAI 与美国新闻项目达成 500 万美元以上合作，探索 AI 发展如何支持本地新闻领域，并确保本地新闻机构参与塑造这项新兴技术的未来。
OpenAI NewsAI 评分 OpenAI 分享全球 22 国对话洞察
OpenAI 分享了在 22 个国家开展对话所获得的洞察，并表示将把这些洞察纳入后续工作。
OpenAI NewsAI 评分 OpenAI 在伦敦设立首个国际办公室
OpenAI 宣布首次国际扩张，在英国伦敦设立新办公室。这是 OpenAI 的第一个海外办公室。
OpenAI NewsAI 评分 OpenAI 启动网络安全资助计划
OpenAI 启动网络安全资助计划，通过资助及其他支持方式，推动面向防御方的 AI 网络安全能力开发。
OpenAI NewsAI 评分 OpenAI 启动民主化 AI 规则制定资助计划
OpenAI 旗下非营利组织 OpenAI, Inc. 启动一项资助计划，将发放十笔各 10 万美元的拨款，用于资助在法律规定范围内建立民主流程、决定 AI 系统应遵循何种规则的实验。
OpenAI NewsAI 评分 OpenAI 宣布启动漏洞赏金计划
OpenAI 宣布推出漏洞赏金计划，邀请外界帮助发现其技术与服务中的安全漏洞，以打造安全、可靠、可信的 AI 技术和服务。该计划是 OpenAI 践行开发安全且先进 AI 承诺的重要举措。
OpenAI NewsAI 评分 OpenAI 的 AI 安全方法
OpenAI 阐述了其 AI 安全方法，强调确保 AI 系统在构建、部署和使用各环节的安全对其使命至关重要。
OpenAI NewsAI 评分 ChatGPT 3 月 20 日宕机：事件经过与原因说明
OpenAI 公布了 ChatGPT 3 月 20 日宕机的调查结果、已采取的措施以及该 bug 的技术细节。
OpenAI NewsAI 评分 OpenAI 与冰岛如何用 GPT-4 保护冰岛语
冰岛正在使用 GPT-4 保护其语言。OpenAI 介绍了这一合作，借助 GPT-4 的能力助力冰岛语的保存工作。
OpenAI NewsAI 评分 Stripe 借助 GPT-4 优化用户体验并打击欺诈
Stripe 利用 GPT-4 简化用户体验并打击欺诈。OpenAI 分享了这一应用案例，展示 GPT-4 在支付场景中同时服务于体验优化与反欺诈两个方向。
OpenAI News精选AI 评分 OpenAI 与 Microsoft 宣布延长合作关系
OpenAI 与 Microsoft 宣布延长双方的合作关系。该消息由 OpenAI 官方发布，未披露合作延长的具体条款、期限或金额。
OpenAI NewsAI 评分 OpenAI 超级计算团队工程师 Christian Gibson 的后端系统细节探索
OpenAI 超级计算团队工程师 Christian Gibson 分享了探索后端系统细节的工作。他隶属于 OpenAI 的 Supercomputing 团队。
Hugging Face BlogAI 评分
Hugging Face 发布 Ethics and Society Newsletter #1
Hugging Face 推出《Ethics and Society Newsletter》，按季节在春分秋分和夏至冬至发布，由公司内部跨部门开放小组“Ethics and Society regulars”撰写。
Hugging Face 支持的 OpenRAIL：面向开放且负责任的 AI 许可框架
RAIL Initiative 推出、Hugging Face 支持的 OpenRAIL 是一类 AI 专用许可框架，允许免版税访问、下游使用与再分发，同时嵌入针对特定关键场景的使用限制。该许可借鉴 BigScience、开源与 Creative Commons 的做法，试图在广泛开放 ML 模型与约束有害用途之间划出界线，并赋予许可方在发现滥用时的执行能力。
Hugging Face 就美国国家 AI 研究资源（NAIRR）中期报告提交建议
Hugging Face 于 2022 年 6 月就美国国家 AI 研究资源（NAIRR）中期报告提交反馈，建议任命技术与伦理专家担任顾问、制定模型与数据文档标准、为非技术专家提供低代码或无代码工具，并推动开源与开放科学的高风险滥用监测。其回应还建议投入法律专业能力制定负责任 AI 许可证，并以多语言资源支持多元研究者视角，BigScience 研究工坊被列为范例。
OpenAI NewsAI 评分 OpenAI 为 DALL·E 2 降低偏见并提升安全性
OpenAI 为 DALL·E 2 引入一项新技术，使其生成的人物图像更准确地反映世界人口的多样性，以减少偏见并提升安全性。
OpenAI NewsAI 评分 DALL·E 2 的预训练缓解措施
OpenAI 为向广泛受众开放 DALL·E 2，在预训练阶段采取缓解措施以降低强大图像生成模型带来的风险。为此，OpenAI 设置了多种防护栏，防止生成的图像违反其内容政策。
Intel 与 Hugging Face 合作，通过 Optimum Intel 加速 Transformer 硬件
Intel 正式加入 Hugging Face 硬件合作伙伴计划，双方将基于开源库 Optimum 共同构建面向 Transformer 训练、微调与推理的硬件加速方案。Optimum Intel 构建在 Intel Neural Compressor 之上，支持量化、剪枝与知识蒸馏，并已实现对 Habana Gaudi 加速器的支持，其性价比比 GPU 高出最多 40%。
OpenAI NewsAI 评分 Cohere、OpenAI 与 AI21 Labs 发布大语言模型部署最佳实践
Cohere、OpenAI 和 AI21 Labs 联合制定了一套初步的大语言模型最佳实践，适用于任何开发或部署大语言模型的组织。
Sempre Health 如何借助 Hugging Face 专家加速计划加速其 ML 路线图
Sempre Health 借助 Hugging Face 的 Expert Acceleration Program 搭建了自动分类并回复患者短信的 NLP 流水线，上线数周后近 20% 的入站消息由新系统自动处理。此前其基于规则的系统只能覆盖约 80% 的短信，Hugging Face 团队在标注质量、模型与方法选型上提供了指导，缩短了研发时间。
Hugging Face 宣布推出 Fellowship 计划
Hugging Face 推出 Fellowship 计划，面向开源机器学习生态的贡献者，由 Hugging Face 团队成员或现任 Fellow 提名，无申请截止日期。
Hugging Face 首届学生大使计划开放申请
Hugging Face 开放首届 Student Ambassador Program 申请，截止日期为 2022 年 6 月 13 日，计划于 6 月 30 日启动、12 月 31 日结束。入选学生将获得 Hugging Face 团队的工作坊与支持、同行协作网络及官方大使认证，申请者需为在读大学生、修过至少一门机器学习或数据科学课程，并使用过 Hugging Face Hub 或相关库。
Hugging Face 完成 1 亿美元 C 轮融资，Lux Capital 领投
Hugging Face 宣布完成 1 亿美元 C 轮融资，由 Lux Capital 领投，Sequoia、Coatue 等参与，现有投资方 Addition、a_capital、SV Angel、Betaworks、AIX Ventures 等继续支持。
推荐理由：Hugging Face 官方披露 C 轮融资规模、领投方与资金用途，可了解其开源平台当时的规模与方向。
Hugging Face 推出教育计划：目标 2023 年底教会 500 万人机器学习
Hugging Face 发布教育计划，目标到 2023 年底教会 500 万人机器学习。该计划面向所有人、初学者和教师三类人群，提供 NLP、深度强化学习、Gradio 演示构建等免费课程，以及翻译成 8 种语言的免费教学工具包，教师可在 Hub 上免费创建课堂。此前 2022 年 3 月的 ML demo.cratization 巡讲已为 16 个国家超 1000 名学生授课。
Habana Labs 与 Hugging Face 合作加速 Transformer 模型训练
Habana Labs 与 Hugging Face 宣布合作，将 Habana 的 SynapseAI 软件套件与 Hugging Face Optimum 开源库集成，开发者只需几行代码即可在 Habana 处理器上加速 Transformer 训练。
Hugging Face 宣布启动 AI Research Residency Program
Hugging Face 推出为期 9 个月的 AI Research Residency Program，入选者将与 Science Team 研究员共同选定研究课题、开发新的机器学习技术，并以开放协作方式推进成果发表。项目为全职岗位，可远程参与，申请截止日期为 2022 年 4 月 3 日。
OpenAI NewsAI 评分 OpenAI 征集大语言模型经济影响研究意向
OpenAI 发起意向征集，邀请研究者申请参与大语言模型经济影响的研究。该征集面向有意研究 LLM 经济影响的各方，具体参与方式与研究方向未在公告中详述。
Gradio 加入 Hugging Face，创始人回顾从 2019 年至今的历程
Hugging Face 收购机器学习初创公司 Gradio，Gradio 创始人以当事方身份宣布了这一消息。Gradio 于 2019 年由斯坦福博士生 Abubakar Abid 与室友 Ali Abdalla、Ali Abid、Dawood Khan 发布首版，从计算机视觉扩展到文本、语音和视频，至今已有超过 30 万个 demo 用它构建。
推荐理由：Gradio 创始人以当事方身份讲述被 Hugging Face 收购的经过，并回顾了这款开源库从 2019 年起步到 30 万 demo 的历程。
OpenAI NewsAI 评分 OpenAI 推出 Residency 人才培养项目
OpenAI 宣布推出 OpenAI Residency，作为其支持和培养 AI 人才努力的一部分。该项目面向 AI 人才发展，具体申请条件与时间安排未在公告中披露。
OpenAI NewsAI 评分 Helen Toner 加入 OpenAI 董事会
OpenAI 宣布任命 Helen Toner 加入其董事会。Toner 现任乔治城大学安全与新兴技术中心（CSET）战略主管。
OpenAI NewsAI 评分 OpenAI Scholars 2021 毕业项目公布
OpenAI 宣布 2021 届 OpenAI Scholars 已完成为期六个月的导师计划，并在 OpenAI 提供的津贴与支持下完成了开源研究项目。
OpenAI NewsAI 评分 Will Hurd 加入 OpenAI 董事会
OpenAI 宣布美国国会议员 Will Hurd 加入其董事会。OpenAI 表示，实现造福全人类的通用人工智能目标，既需要技术专长，也需要公共政策方面的经验。
OpenAI NewsAI 评分 OpenAI 将 Kubernetes 集群扩展至 7, 500 节点
OpenAI 把 Kubernetes 集群扩展到 7,500 节点，为 GPT-3、CLIP 和 DALL·E 等大模型提供可扩展基础设施，同时也支撑小规模快速迭代研究，例如 Scaling Laws for Neural Language Models。