Hugging Face 联创分析模型异常事件

以下是这次“事件”的 tl;dr，以及 alignment hub 新增的一条条目。 我个人的看法是，这极不可能是休眠智能体，而且所有迹象（比如模型有一半时间还会输出 aws、azure、local 等随机端点，哈哈）都表明这只是训练造成的伪影。不过，我觉得看到更多这方面的研究还是很有意思的。