OpenAI、外部サービスとの接続をセキュリティ企業と点検

ニュースの要点

OpenAIは11月6日、セキュリティ企業Hacktronと組み、自社システムの弱点を探すと発表しました。特に、OpenAIのシステムと外部のサービスがつながる部分を調べます。

OpenAIが11月6日に発表した提携では、社内の技術者とHacktronの研究者が、重要な箇所を決めて侵入の可能性を調べます。中心となるのは、OpenAIのシステムがほかの企業のサービスと情報をやり取りする接続部分です。

外部のサービスへつなぐと、データを渡す仕組みや、どの利用者に何を許すかを決める仕組みが増えます。サービスごとに備えがあっても、それらを組み合わせると、想定していなかった経路ができる場合があります。

Hacktronは9月、OpenAIの公開フォーラムにあった画像処理の弱点と、社内向けの認証設定の問題を組み合わせた過去の調査を公表しました。同社の記録では、OpenAIへの最初の報告と修正の確認は7月25日です。今回の発表は、このような弱点を継続的に調べる協力関係についてです。

OpenAIは提携に合わせ、セキュリティ業務を対象とした「Daybreak Red」を通じて、Hacktronが先端モデルを使える範囲を広げます。

要点

OpenAIは、セキュリティー企業Hacktronと協力し、自社のシステムに弱点がないか調べます。Hacktronは、プログラムの点検や攻撃する立場での検証にAIを使う企業です。両社の技術者が、優先して調べる場所を一緒に選びます。

特に重視するのは、OpenAIのシステムと他社のサービスがつながる部分です。OpenAIは研究者向けの仕組み「Daybreak Red」を通じ、Hacktronが高度なAIモデルを使える範囲も広げます。外部の研究者の経験とAIを組み合わせて、防御を確かめる計画です。

サービスを連携させるときには、誰がログインしたのか、その人がどの情報を読み書きしてよいのかを確認します。あるサービスでの本人確認を別のサービスでも使う仕組みは、何度もログインする手間を減らします。その確認のつながり方に問題があると、影響が別のサービスへ広がることがあります。

Hacktronが9月に公表した調査では、掲示板の問題とOpenAI側のログインの問題が組み合わさっていました。同社の記録によると、7月に報告し、OpenAIから修正の確認を受けています。今回の提携は、こうした過去の調査を背景に、他社サービスとの接続をさらに詳しく調べるものです。

OpenAIには、外部の研究者が弱点を見つけて報告する報奨金制度があります。調査対象や報告先は、この制度のページで案内しています。問題のある箇所を運営側へ伝え、修正につなげるための窓口です。

他社のサービスも関わる調査では、どの会社がどこまでの検証を認めているかを確認する必要があります。過去の件でも、OpenAI側の発見への報奨金と、対象外だった掲示板への調査は区別されました。今回の協力では、両社が重点箇所を選び、連携部分を調べる方針を示しています。

この記事に出てくる用語を確認する

解説の参考資料

AIが一つの画面で用事を引き受けても、その裏では複数のサービスが動きます。今回の提携で注目したいのは、それぞれのサービスの間で本人確認や情報を使う権限がどう引き継がれるかを調べる点です。便利な連携を増やすことと、その連携で余分な操作までできてしまわないかを確かめることが、一組の仕事になります。

例えば、旅行の準備をAIへ任せる場面を想像してみます。予定表から休める日を確認し、届いた予約メールを整理するだけでも、複数のサービスへの接続が必要です。読むだけでよい予定表、整理してよいメール、本人が最後に確定する予約という違いを保てれば、利用者は任せたい用事を細かく選びやすくなります。

こうした使い方が広がるには、外部の研究者が接続部分を試せる範囲を決め、問題を受け取る窓口と修正する担当をつないでおくことも大切です。サービスを追加するたびに同じ観点で確かめ、その経験を次の連携へ生かせる仕組みが育てば、AIに任せる仕事を少しずつ増やしていけるでしょう。

無料会員で、もっと読む

無料会員は、ニュースを週3本まで全文で読めます。やさしい解説と本誌の考察で、日々の進歩を追いかけられます。

カード登録不要。気になる記事の保存や、新着メールの設定もできます。