目录
  1. 共同标准有助于决定是否采用
  2. 从发布到使用的时间可能缩短
  3. 更强大的AI也需要明确决策方式

本文根据阿莫代伊关于外部评估的提案,想象未来AI的应用。

新AI模型出现后,企业或研究机构不一定能立即使用。人们需要时间核查能力与安全性,决定可以交给它哪些任务。

达里奥·阿莫代伊提出,让外部评估人员常驻AI开发企业。由公司外部人员检查开发工作,并提出独立意见。

插画:夕阳下的未来海滨城市,有人抬头仰望轨道环。
想象新智能从实验室抵达城市的未来。AI生成插画/未来观测报

共同标准有助于决定是否采用

下面设想这一机制得到推广。若多家开发企业采用共同评估标准,使用者就能更方便地比较结果,判断AI适合哪些任务。

外部评估并不会免除企业的责任。企业仍需核实AI是否适合自身业务,并安排处理错误的人员。

从发布到使用的时间可能缩短

设想在新模型发布当周,实验室开始用它规划实验,工厂开始用它编制作业指示。共同评估结果缩短了部分导入流程。

如果AI也能协助评估,开发、核查与采用就可能更紧密地衔接。实验室中的能力,也可能更快进入工作与生活。

更强大的AI也需要明确决策方式

如果能胜任广泛工作的AGI,或能力远超人类的ASI出现,由谁决定可以使用?需要核查什么?围绕外部评估的讨论,可能成为建立流程的起点。

阅读这个主题