OpenAI公布外部评估重点,涵盖安全措施与事故

9月22日,OpenAI公布第三方评估的重点与原则,涉及安全论证、防护措施,以及用于测量能力的评估本身。
它还提出独立调查严重的行为失配事件。此次介绍主要是持续审视安全主张,并不等于为所有产品建立发布前许可制度。
本报观点
检查方法本身也需要检查
AI分数越高,考试遗漏了什么就越重要。本报认为,外部评估的工作将不仅是判定合格,还包括重新设计考试。
这也与小公司有关。如果能选择适合具体工作的检查,小公司不必拥有大型实验室也能更安心地引入AI。收集各行业失败案例的专业人员可能更有价值。
今后生活可能怎样改变?
以下是根据这则新闻作出的未来设想。
用繁忙的一天测试店里的AI
未来,餐厅可能用满座和重复预约的模拟情景比较AI,重点查看遇到难题时能否可靠地交还给人。
这并非此次发布的餐厅服务,而是评估方法走出专业实验室后可能形成的使用方式。

