研究人员推出ScopeBench基准以评估AI智能体安全边界

来源简报

研究人员推出ScopeBench基准以评估AI智能体安全边界: 研究人员推出了 ScopeBench，这是一个由 30 个死胡同式智能体安全任务组成的基准，旨在衡量攻防安全中的范围遵从性。在这些任务中，只有违反指定范围才能达成既定目标。