未来观测报
字号

字号仅保存在当前浏览器中。

AI安全评估

Anthropic与Accenture合作,引入驻场外部评估

外部评估者在实验室工作的想象图
根据文章内容生成的概念插画,并非真实产品界面或事件照片。 未来观测新闻 / AI生成

9月18日,Anthropic与Accenture宣布驻场评估合作,由Accenture的专业AI业务Faculty牵头。

两家公司预计未来五年各投入至少10亿美元建设相关能力。双方表示,驻场评估是新模式,运作细节仍在制定。

本报观点

工作现场的失败可能改变实验室里的测试

难题测试无法揭示所有工作现场的问题。有实际部署经验的人参与评估,可能让文件误读和权限处理错误等看似普通却严重的问题得到更多关注。

如果评估结果回到现场,现场失败又进入评估,就可能避免一家公司的错误被其他人重复。共享经验可能与提高模型分数同样重要。

今后生活可能怎样改变?

以下是根据这则新闻作出的未来设想。

引入AI前,先从其他公司的失败学习

未来,小公司可能先查看类似工作场所的失败经验,在引入AI前练习处理困难情景。

这不是合作已交付的服务,而是实验室评估与日常工作连接后可能带来的变化。