Google DeepMind、会話の詐欺を端末内で検知するAI シンガポール政府と共同開発
ニュースの要点
Google DeepMindは10月14日、シンガポール政府のGovTechと共同で、会話に潜む詐欺を端末内で検知するAIモデルを開発したと発表しました。利用者の同意を得て会話を調べ、個人情報や送金を求める不審な流れに警告する仕組みです。アプリへの導入は段階的に進める計画です。
Google DeepMindは10月14日、シンガポール政府の技術機関GovTechと共同で、詐欺の会話を見分けるAIモデルを開発したと発表しました。軽量なAIモデルGemmaを、同国で見られる詐欺の会話に合わせて追加学習させました。公的機関や銀行、地元の著名人へのなりすましなどを対象にしています。
狙いは、一つの不審な言葉だけでなく、会話を通じて相手を誘導する流れを捉えることです。モデルは、普通のやり取りと、金銭や認証情報を渡すように仕向ける働きかけを区別します。危険な流れを検知すると、端末に警告を出し、情報やお金を渡す前にいったん立ち止まるよう促す設計です。
会話の分析はクラウドへ送って行う方法ではなく、端末内で処理します。アプリに組み込まれた際には、そのアプリの利用条件に従い、利用者の同意を得て端末内の会話へアクセスします。DeepMindは、この仕組みを通じてGoogleやシンガポール政府が利用者の会話を閲覧することはできないと説明しています。
スマートフォンの電池消費を抑えるため、判定は2段階で行います。まず、軽量な分類器が届いたメッセージを調べ、疑わしいものを選びます。その後、追加学習させたGemmaが、複数回のやり取りを含む会話を確認し、警告するか、通常の会話と判断するかを決めます。
追加学習は、GovTechが管理するGoogle Cloudの環境内で行いました。DeepMindによると、学習では非公開の個人情報を除き、詐欺の報告や関連情報から作った匿名化データを使っています。人工的に作った対話と地域の会話データでも、さまざまな詐欺やなりすましへの対応を試しました。
共同開発の内容は、Singapore International Cyber Week 2026で紹介されました。モデルをアプリに組み込む取り組みは、シンガポール政府と段階的に進める方針です。今回の発表には、導入するアプリ名や一般向けの開始日、検知率・誤検知率の具体的な数値は示されていません。DeepMindは、同様の技術を他国へ展開する可能性も探るとしています。
このニュースをやさしく解説
要点
地域で使われる詐欺の会話を学んだAIが、スマートフォンの中でやり取りを調べる取り組みです。利用者が同意した会話を対象に、お金や情報を渡す前の警告を目指しています。
地域の会話に合わせた学習
詐欺では、銀行や役所などを名乗り、会話を重ねながら相手を信用させることがあります。今回のAIは、やり取りの流れを調べ、お金や認証情報を渡すように誘導しているかを見分けます。
使うのはGoogleの軽量なAIモデル「Gemma」です。既存のAIに特定の資料を学ばせて調整する「追加学習」により、シンガポールの機関や人物へのなりすまし、地域で広がる手口に対応させました。
2段階で電池の負担を抑える
最初は、少ない電力で動く判定用のAIが届いたメッセージを調べます。疑わしいものを選び、その次にGemmaが複数回のやり取りを詳しく確かめる順番です。
Gemmaは、詐欺の疑いがあるか、通常の会話として扱えるかを判断します。詳しく調べる対象を先に絞ることで、スマートフォンの電池への負担を抑える設計です。
学習する場所と判定する場所
利用者の会話を調べる処理はスマートフォンの中で行います。これが「端末内推論」です。DeepMindは、この仕組みを通じてGoogleや政府が会話を閲覧することはできないと説明しています。
開発時の追加学習には、GovTechが管理する隔離されたGoogle Cloudの環境を使いました。教材は詐欺の報告などから作った匿名化データで、非公開の個人のやり取りや個人を特定できる情報は学習対象から除いています。
アプリへの導入と利用者の同意
今後、シンガポール政府と協力して、モデルをアプリへ段階的に組み込む計画です。導入先ではアプリの利用条件に従い、利用者の同意を得て端末内の会話にアクセスします。
危険な誘導を検知した際には、端末へ警告を出す設計です。情報やお金を渡す前に、利用者がいったん立ち止まり、相手の話を確かめることを促します。
この記事に出てくる用語を確認する
- Gemma
- Googleが開発したAIモデルです。今回の取り組みでは、軽量なGemmaに追加学習を施し、詐欺の会話を見分ける能力を調整しました。
- 追加学習
- すでに作られたAIへ特定の資料を学ばせ、対象となる仕事や地域に合うように調整することです。
- 端末内推論
- 学習済みのAIが、スマートフォンなどの端末の中で入力を処理し、判断や回答を出すことです。
本誌の考察
送金の前に、立ち止まる時間をつくる
今回の取り組みで注目したいのは、暮らしている地域の事情を学んだAIが、手元の端末で会話の流れを調べる点です。相手が銀行や役所を名乗ったとき、その名前だけで信用してよいかを決めるのは難しいものです。どんなやり取りを経てお金や情報を求められたのかまで確かめることで、利用者が判断するための手掛かりを増やせます。
こうした警告が生活に入ると、送金する直前の行動が変わるかもしれません。例えば、自宅で銀行を名乗る相手とメッセージを交わしている人が、端末に出た警告をきっかけに返事を止め、自分で銀行へ確かめる場面です。急いで応じそうになったところで時間を取れれば、相手の説明を落ち着いて考え直せます。
その助けを使う際に、会話を手元で処理できることにも意味があります。お金や家族についての相談には、誰に見せるかを自分で決めたい内容が含まれます。利用者が同意した範囲の会話を端末内で調べる設計なら、私的なやり取りを守りながら、怪しい誘いに気づく助けを得られます。
さらに、日本の言い回しやなりすましの手口に合わせた学習が進み、日常会話を誤って警告する頻度や電池の負担も抑えられれば、この機能が普段使うアプリに広がる未来も考えられます。離れて暮らす親が、家族の返事を待たずに、その場でいったん立ち止まれるようになるでしょう。家族へ何を相談するか、どのやり取りを見せるかも、本人が選べます。
そうなれば、詐欺への不安から避けていたネットでの買い物や、新しいサービスへの申し込みにも、一歩踏み出しやすくなるかもしれません。自分の端末で確かめ、迷ったときには人に相談する。その習慣が広まれば、見守る家族に操作を任せきりにせず、年齢を重ねても自分で選び続けられる暮らしにつながりそうです。
参考資料
無料会員で、もっと読む
気になる未来を、これからも。
無料会員は、ニュースを週3本まで全文で読めます。やさしい解説と本誌の考察で、日々の進歩を追いかけられます。
カード登録不要。気になる記事の保存や、新着メールの設定もできます。
