rohanpaul_ai· @rohanpaul_ai · X·· 4 天前AI 评分
用稀疏自编码器构建可审计 AI 文本检测器
研究用稀疏自编码器将黑箱 AI 文本检测器拆解为可读、可审计的部分，在不削弱检测效果的同时，为每次判定给出可核验的加权写作线索。方法从微调 AI 文本检测器的 4 层激活值中提取特征，屏蔽缺乏可靠标签的特征，再由逻辑回归分类器完成判定。线索示例包括偏向 AI 的 em dashes，以及略微指向另一侧的“Firstly,”。
黑盒 AI 文本检测器可以通过将其重构为可读的部分来重建，同时不损失其能力。
这样一来，每次判定都会附带可供审核者核查的加权写作线索，例如，破折号会推动判定偏向 AI，而“Firstly”则会让结果略微偏向另一边。
来自经过微调的 AI 文本检测器 4 个层的激活值由稀疏自编码器拆分为特征，没有可靠标签的特征会被屏蔽掉，逻辑回归分类器则根据剩余特征作出判定。
– arxiv.org/abs/2610.30006
标题：“Building Auditable AI Text Detectors with Sparse Autoencoders”
来源：rohanpaul_ai · x.com