OpenAI提议下一阶段AI国际标准,涉及自我改进

9月21日,OpenAI提议为能力评估、风险管理、监督和事故报告建立标准,其中包括AI参与AI开发的情况。
声明表示,完全自主的递归自我改进目前尚未发生,除非能确保安全,否则不应追求。这项提议并不是已经生效的国际法律。
本报观点
共同尺度可能让更换AI更容易
一个不太显眼的影响是,AI可能更容易比较。各家用不同测试证明安全时,用户很难选择。共同尺度可能让选择依据从公司名气转向是否适合具体工作。
但昂贵的检测也可能排斥小开发者。因此,谁能以合理成本使用这些标准,可能与标准内容本身同样影响竞争和普及。
今后生活可能怎样改变?
以下是根据这则新闻作出的未来设想。
按具体工作重新选择家用AI
未来,家庭可能按擅长的工作和所需监督程度选择记账或旅行AI,通过共同标识比较,而不必每次从头调查。
这是标准发展成实用工具后的设想,并非声明公布的产品。能够放心更换,可能让更多人愿意尝试AI。

