未来观测报
字号

字号仅保存在当前浏览器中。

AI外部评估

OpenAI公布外部评估重点,涵盖安全措施与事故

评估者检查透明AI机器的想象图
根据文章内容生成的概念插画,并非真实产品界面或事件照片。 未来观测新闻 / AI生成

9月22日,OpenAI公布第三方评估的重点与原则,涉及安全论证、防护措施,以及用于测量能力的评估本身。

它还提出独立调查严重的行为失配事件。此次介绍主要是持续审视安全主张,并不等于为所有产品建立发布前许可制度。

本报观点

检查方法本身也需要检查

AI分数越高,考试遗漏了什么就越重要。本报认为,外部评估的工作将不仅是判定合格,还包括重新设计考试。

这也与小公司有关。如果能选择适合具体工作的检查,小公司不必拥有大型实验室也能更安心地引入AI。收集各行业失败案例的专业人员可能更有价值。

今后生活可能怎样改变?

以下是根据这则新闻作出的未来设想。

用繁忙的一天测试店里的AI

未来,餐厅可能用满座和重复预约的模拟情景比较AI,重点查看遇到难题时能否可靠地交还给人。

这并非此次发布的餐厅服务,而是评估方法走出专业实验室后可能形成的使用方式。