omarsar0· @omarsar0 · X·· 4 小时前AI 评分
AI安全需要更好的红队工具
AI Safety 需要更好的工具和工程能力。 比如，构建更强大的红队工具。 很高兴看到这个开源的图像模型红队项目。它似乎能学习更好的攻击提示词写法。 它是开源的，基于开源 Qwen 模型运行，以 Gemini Flash 作为评判者，因此防御者可以在自己的图像模型上运行相同的测试。
What AI Safety needs is better tooling and engineering.
For instance, building stronger red-teaming tools.
Great to see this open-source effort to red-team image models. It seems to learn better ways to write attack prompts.
It is open source and runs on an open Qwen model with Gemini Flash as the judge, so defenders can run the same tests on their own image models.
来源：omarsar0 · x.com