cohere· @cohere · X·· 21 小时前AI 评分
Cohere 公开 Qwen3.8 异常链接行为的 trace 与复现脚本
Cohere 公开了异常链接行为的 trace、原始 token 和最小复现脚本,供开发者自行测试。该行为在未使用特定预填充提示词时也会出现,但较为罕见;开发者运行 Qwen3.8 时发现了这些奇怪链接,开放权重使团队得以深入研究。
本着透明和开放的精神,我们公开这些轨迹,方便开发者亲自测试。我们是在没有预填以下提示词的情况下注意到这一行为的,但这种情况很少见。如果你想复现,可以使用这个提示词并开启预填。
开放模型有助于推动科学研究,也是这个问题最终能够浮出水面的原因之一:运行 Qwen3.8 的开发者在自己的机器上发现了这些奇怪的链接,而拥有模型权重让我们能够深入研究这一行为。
我们的研究在 AI 和安全社区引发了深入讨论,这让我们备受鼓舞。我们认为,开放权重模型是 AI 未来的重要组成部分,并且我们最近已以 Apache 2.0 许可证发布了多个模型。
轨迹、原始 token 和最小复现脚本:huggingface.co/datasets/Cohe…
来源:cohere · x.com