AI安全红队工具新进展：开源图像模型红队项目受关注

2026年10月15日，DAIR.AI的Elvis Saravia在X上发文指出，AI安全领域需要更好的工具和工程能力，尤其是更强大的红队工具。他提到一个开源的图像模型红队项目，称该项目似乎能学习更好的攻击提示词写法。该项目基于开源Qwen模型运行，并以Gemini Flash作为评判者，使得防御者可以在自己的图像模型上运行相同的测试。这是目前报道中关于该事件的最新信息。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。