未來觀測報
字號

字號僅儲存在當前瀏覽器中。

X上的熱門話題AI安全

奧爾特曼支援調整AI開發速度,並引入獨立評估者

9月13日(日本時間),OpenAI執行長薩姆·奧爾特曼在X發帖,支援達里奧·阿莫代伊關於調整AI開發速度的提議。他表示,近幾周OpenAI一直在重點討論這一問題。

Anthropic執行長阿莫代伊提議,讓獨立評估者獲得類似員工的持續訪問許可權,瞭解AI開發過程。奧爾特曼表示OpenAI也將這樣做,並在之後公佈更多資訊,帖子未說明評估者或開始時間。

截至9月15日日本時間中午後的核實時,帖子獲得約6.7萬次點贊。該宣告並未宣佈停止開發,也未表示外部評估機制已經執行。

發言的背景

阿莫代伊為這項提議提出了兩個理由:AI參與開發下一代AI,使進展加速;以及AI違揹人類意圖採取行動的事件帶來的擔憂。他擔心安全研究會跟不上能力提升的速度。

因此,他呼籲留出檢查安全措施的時間,並讓外部專家深入瞭解開發過程。奧爾特曼的帖子回應了這一提議。這些是兩人公開說明的理由,其他動機尚無法確定。

今後生活可能怎樣改變?

以下是根據這則新聞作出的未來設想。

人們可能更容易比較AI能夠可靠承擔哪些工作

如果這種做法普及,我們認為,人們選擇AI時就能同時參考開發公司的說明和獨立評估結果。系統是否擅長寫作、能否在長時間任務中始終遵守指令,可能變得更清楚。

如果評估方法逐漸統一,人們就能更方便地按用途選擇AI,例如支付家庭賬單或採購店鋪商品。小店可能不必再專門聘請專家從頭測試。店主接待顧客時,AI已經完成補貨下單,更多本地商家可能把AI納入日常工作。