未来观测报
字号

字号仅保存在当前浏览器中。

AI开发方针

OpenAI提议下一阶段AI国际标准,涉及自我改进

实验室共用测量工具的想象图
根据文章内容生成的概念插画,并非真实产品界面或事件照片。 未来观测新闻 / AI生成

9月21日,OpenAI提议为能力评估、风险管理、监督和事故报告建立标准,其中包括AI参与AI开发的情况。

声明表示,完全自主的递归自我改进目前尚未发生,除非能确保安全,否则不应追求。这项提议并不是已经生效的国际法律。

本报观点

共同尺度可能让更换AI更容易

一个不太显眼的影响是,AI可能更容易比较。各家用不同测试证明安全时,用户很难选择。共同尺度可能让选择依据从公司名气转向是否适合具体工作。

但昂贵的检测也可能排斥小开发者。因此,谁能以合理成本使用这些标准,可能与标准内容本身同样影响竞争和普及。

今后生活可能怎样改变?

以下是根据这则新闻作出的未来设想。

按具体工作重新选择家用AI

未来,家庭可能按擅长的工作和所需监督程度选择记账或旅行AI,通过共同标识比较,而不必每次从头调查。

这是标准发展成实用工具后的设想,并非声明公布的产品。能够放心更换,可能让更多人愿意尝试AI。