OpenAI 研究错误回答训练如何导致模型失准泛化

OpenAI 研究了对错误回答的训练如何导致语言模型出现更广泛的失准，并识别出一个驱动该行为的内部特征，该特征可通过极少量微调逆转。材料仅提供摘要，未给出具体方法、模型或实验数据。