目錄
  1. 共同標準有助於決定是否採用
  2. 從釋出到使用的時間可能縮短
  3. 更強大的AI也需要明確決策方式

本文根據阿莫代伊關於外部評估的提案,想象未來AI的應用。

新AI模型出現後,企業或研究機構不一定能立即使用。人們需要時間核查能力與安全性,決定可以交給它哪些任務。

達里奧·阿莫代伊提出,讓外部評估人員常駐AI開發企業。由公司外部人員檢查開發工作,並提出獨立意見。

插畫:夕陽下的未來海濱城市,有人抬頭仰望軌道環。
想象新智慧從實驗室抵達城市的未來。AI生成插畫/未來觀測報

共同標準有助於決定是否採用

下面設想這一機制得到推廣。若多家開發企業採用共同評估標準,使用者就能更方便地比較結果,判斷AI適合哪些任務。

外部評估並不會免除企業的責任。企業仍需核實AI是否適合自身業務,並安排處理錯誤的人員。

從釋出到使用的時間可能縮短

設想在新模型釋出當週,實驗室開始用它規劃實驗,工廠開始用它編制作業指示。共同評估結果縮短了部分匯入流程。

如果AI也能協助評估,開發、核查與採用就可能更緊密地銜接。實驗室中的能力,也可能更快進入工作與生活。

更強大的AI也需要明確決策方式

如果能勝任廣泛工作的AGI,或能力遠超人類的ASI出現,由誰決定可以使用?需要核查什麼?圍繞外部評估的討論,可能成為建立流程的起點。

閱讀這個主題