AnthropicとAccenture、開発現場に入る外部評価で提携
9月18日、AnthropicとAccentureは、AI開発の内部に入って評価する取り組みで提携を発表した。Accenture傘下のFacultyが中心となり、モデルの検証や安全対策の試験などを行う。
両社は、この分野の能力整備へ今後5年間でそれぞれ少なくとも10億ドルを投じる見込みだと説明する。評価者が内部へ継続的に入る仕組みは新しく、運用の詳細はまだ検討中としている。
本紙の考察
AIを使う現場の失敗が、開発側の検査を変える
開発中のAIに難しい問題を解かせるだけでは、利用先で何が困るかを全部は見つけられない。本紙は、企業の導入現場を知る人が検査へ入ると、帳票の読み違いや権限の扱いなど、地味だが深刻な問題が重く見られるようになると考える。
評価結果が現場へ戻り、現場の失敗がまた評価へ届けば、経験を共有するほど使いやすいAIになる。個別企業の失敗を、他の利用者が繰り返さない仕組みにできるかが重要だ。
今後、暮らしはどう変わる？
ここからは、ニュースをもとに考えた未来の予想です。
導入前に、別の会社の失敗から学べる
将来、小さな会社がAIを選ぶとき、自分と似た仕事で何が失敗し、どう防げたかを確認する。導入後に一から困るのではなく、注意すべき場面を先に練習できるかもしれない。
これは今回の提携で提供済みのサービスではない。開発中の検査と日々の仕事がつながった先の、利用者側の変化を描いたものだ。
