natolambert· @natolambert · X·· 3 小时前AI 评分
模型情境意识交互令人毛骨悚然
我觉得这种程度的情境意识并不算特别了不起,但这段交互读起来仍然非常诡异。我敢打赌,那些很老的模型如果被加上"要安全,你是 AI,我们在看着你"这样的提示,也会做出类似的事。
我觉得这种程度的情境感知并不算多么了不起,但这段互动读起来依然非常诡异。我敢打赌,那些很老的模型如果被加上"注意安全,你是AI,我们在看着你"这样的提示,也会做出类似的事情。
来源:natolambert · x.com