アルトマン氏、AI開発の速度調整に賛同 外部評価者の受け入れも表明
9月13日（日本時間）、OpenAIのサム・アルトマンCEOはXで、AI開発の進め方に関するダリオ・アモデイ氏の提案に賛同すると表明した。OpenAIでも、開発の速度を調整する必要性について数週間にわたり話し合ってきたという。
AnthropicのアモデイCEOは、外部の評価者が社員に近い立場で開発現場を継続的に確認できる仕組みを提案している。アルトマン氏は、この仕組みをOpenAIでも取り入れると述べた。評価者や開始時期などの詳細は、今後明らかにするとしている。
投稿は9月15日正午すぎの確認時点で、約6万7千件のいいねを集めた。大きな反応を呼んでいるが、開発を止めることや、外部評価の仕組みがすでに稼働していることを発表したものではない。
発言の背景
アモデイ氏は今回の提案の理由として、AIが次のAIを作ることで開発が急加速している点と、AIが人の意図に反する行動を取った事例への懸念を挙げた。安全性を調べる時間が、能力の向上に追いつかなくなると考えている。
そのため同氏は、開発中の仕組みを外部の専門家にも見せ、安全対策を確かめる時間を取るよう呼びかけた。アルトマン氏の投稿は、この提案を受けたものだ。両氏が公に説明した理由は確認できるが、それ以外の狙いまでは断定できない。
今後、暮らしはどう変わる？
ここからは、ニュースをもとに考えた未来の予想です。
AIにどこまで仕事を任せられるか、見比べやすくなる
この動きが広がれば、AIを作った会社の説明に加えて、外部の専門家による検査結果を見てAIを選べるようになると考える。文章を作るのが得意なのか、長い作業の途中で指示を取り違えないか。任せられる仕事の範囲が、今より具体的に見えてくる。
さらに検査の方法がそろえば、家計の支払いを任せるAI、店の商品を仕入れるAIなど、用途ごとに選びやすくなる。小さな店でも専門家を雇って一から調べる必要が減り、店主が接客している間にAIが発注まで済ませる。AIを仕事の一部として使う店が増える未来につながりそうだ。
