未來觀測報
字號

字號僅儲存在當前瀏覽器中。

AI安全評估

Anthropic與Accenture合作,引入駐場外部評估

外部評估者在實驗室工作的想象圖
根據文章內容生成的概念插畫,並非真實產品介面或事件照片。 未來觀測新聞 / AI生成

9月18日,Anthropic與Accenture宣佈駐場評估合作,由Accenture的專業AI業務Faculty牽頭。

兩家公司預計未來五年各投入至少10億美元建設相關能力。雙方表示,駐場評估是新模式,運作細節仍在制定。

本報觀點

工作現場的失敗可能改變實驗室裡的測試

難題測試無法揭示所有工作現場的問題。有實際部署經驗的人參與評估,可能讓檔案誤讀和許可權處理錯誤等看似普通卻嚴重的問題得到更多關注。

如果評估結果回到現場,現場失敗又進入評估,就可能避免一家公司的錯誤被其他人重複。共享經驗可能與提高模型分數同樣重要。

今後生活可能怎樣改變?

以下是根據這則新聞作出的未來設想。

引入AI前,先從其他公司的失敗學習

未來,小公司可能先檢視類似工作場所的失敗經驗,在引入AI前練習處理困難情景。

這不是合作已交付的服務,而是實驗室評估與日常工作連線後可能帶來的變化。