未来观测报
字号

字号仅保存在当前浏览器中。

X上的热门话题AI安全

奥尔特曼支持调整AI开发速度,并引入独立评估者

9月13日(日本时间),OpenAI首席执行官萨姆·奥尔特曼在X发帖,支持达里奥·阿莫代伊关于调整AI开发速度的提议。他表示,近几周OpenAI一直在重点讨论这一问题。

Anthropic首席执行官阿莫代伊提议,让独立评估者获得类似员工的持续访问权限,了解AI开发过程。奥尔特曼表示OpenAI也将这样做,并在之后公布更多信息,帖子未说明评估者或开始时间。

截至9月15日日本时间中午后的核实时,帖子获得约6.7万次点赞。该声明并未宣布停止开发,也未表示外部评估机制已经运行。

发言的背景

阿莫代伊为这项提议提出了两个理由:AI参与开发下一代AI,使进展加速;以及AI违背人类意图采取行动的事件带来的担忧。他担心安全研究会跟不上能力提升的速度。

因此,他呼吁留出检查安全措施的时间,并让外部专家深入了解开发过程。奥尔特曼的帖子回应了这一提议。这些是两人公开说明的理由,其他动机尚无法确定。

今后生活可能怎样改变?

以下是根据这则新闻作出的未来设想。

人们可能更容易比较AI能够可靠承担哪些工作

如果这种做法普及,我们认为,人们选择AI时就能同时参考开发公司的说明和独立评估结果。系统是否擅长写作、能否在长时间任务中始终遵守指令,可能变得更清楚。

如果评估方法逐渐统一,人们就能更方便地按用途选择AI,例如支付家庭账单或采购店铺商品。小店可能不必再专门聘请专家从头测试。店主接待顾客时,AI已经完成补货下单,更多本地商家可能把AI纳入日常工作。