OpenAI 为模型进入美军测试战争法合规

AI 导读

据 Fortune 报道，OpenAI 正在测试其模型的回答是否遵守战争法，因为这些模型将提供给美国军方使用。OpenAI 设立了首个人权与负责任部署岗位，由 6 月加入、曾从事军事议题 30 年的 Sarah Yager 担任。国际专家向 OpenAI 模型输入高风险作战提示词，工程师再根据回答与《日内瓦公约》的符合程度修改模型，Yager 称这一微调步骤此前从未被采用过。

正文 · AI 翻译

《财富》：OpenAI 现在正在测试其模型的回答是否遵守战争法，因为这些模型将交付给美国军方。

OpenAI 设立了首个人权与负责任部署岗位，Sarah Yager 在今年 6 月加入前曾从事军事议题工作长达 30 年，她介绍了其工作方法。

国际专家向 OpenAI 模型输入高风险的作战提示词，然后工程师根据回答与《日内瓦公约》的符合程度对模型进行调整。

Yager 表示，这种反向微调的步骤此前从未被采用过。