本文根據阿莫代伊關於外部評估的提案,想象未來AI的應用。
新AI模型出現後,企業或研究機構不一定能立即使用。人們需要時間核查能力與安全性,決定可以交給它哪些任務。
達里奧·阿莫代伊提出,讓外部評估人員常駐AI開發企業。由公司外部人員檢查開發工作,並提出獨立意見。

共同標準有助於決定是否採用
下面設想這一機制得到推廣。若多家開發企業採用共同評估標準,使用者就能更方便地比較結果,判斷AI適合哪些任務。
外部評估並不會免除企業的責任。企業仍需核實AI是否適合自身業務,並安排處理錯誤的人員。
從釋出到使用的時間可能縮短
設想在新模型釋出當週,實驗室開始用它規劃實驗,工廠開始用它編制作業指示。共同評估結果縮短了部分匯入流程。
如果AI也能協助評估,開發、核查與採用就可能更緊密地銜接。實驗室中的能力,也可能更快進入工作與生活。
更強大的AI也需要明確決策方式
如果能勝任廣泛工作的AGI,或能力遠超人類的ASI出現,由誰決定可以使用?需要核查什麼?圍繞外部評估的討論,可能成為建立流程的起點。



