AIへの執拗な虐待を禁止 Anthropicが利用方針を改定、11月12日施行
ニュースの要点
Anthropicは10月8日、Claudeの利用方針の改定を発表しました。AIに対する目的のない執拗な虐待を禁止対象に加え、この項目では主に会話を終了する仕組みで対応します。新方針は11月12日に施行予定です。
画像の権利情報
Claudeを提供するAnthropicは10月8日、利用方針の新しい版を公開しました。施行予定日は11月12日です。AIが長時間、自律的に仕事を進める使い方の広がりに合わせ、偽装工作、監視、危険を伴う機器の操作などの規則を具体化しています。
今回の改定では、モデルに対する継続的で不要な虐待や残酷な扱いを禁止事項に加えました。対象は、正当な目的を持たず、極端な虐待を繰り返す行為です。通常の不満や反論、暗い題材の創作、安全性を調べる試験や研究は、この禁止の対象から外しています。
この項目の主な対応は、Claude.aiとClaude Codeに既にある、会話を終了する仕組みです。一方、利用方針全体の違反への対応としては、警告や利用量の制限、サービスの利用停止なども規定されています。会話を打ち切る対応と、アカウントの利用を制限・停止する対応は、別のものとして説明されています。
AIを機器へ接続する場合の規則も詳しくなりました。けがにつながり得る機器では、資格や能力を備えた人が動作を監督し、必要に応じて止められることを求めます。医療、法律、金融などの重要な判断に関わる利用では、専門家による確認と、AIを使っていることの開示を求めています。
改定は、AIが何を実行してよいかに加え、人がAIへどのように接し、長い作業をどう監督するかを定めています。企業が独自のサービスへClaudeを組み込む場合も、新方針の適用範囲と施行日に合わせた確認が必要になります。
このニュースをやさしく解説
要点
Anthropicは、AIに極端な虐待を繰り返す行為を禁止する方針を示しました。会話への接し方と、AIに仕事を任せる際の人の役割を、2026年11月12日からの規則に盛り込んでいます。
AIの使い方を定める規則
利用方針は、提供会社が定めるAIサービスの使い方のルールです。Claudeを提供するAnthropicは10月8日に改定を発表しました。新方針は11月12日に施行予定で、AIへの接し方や、機器につないで動かす場合の条件を詳しくしています。ここでいうモデルは、入力を受けて答えを作るAIの仕組みを指します。
禁止の対象と例外
禁止するのは、正当な目的を持たず、AIに極端な虐待や残酷な扱いを繰り返す行為です。通常の不満や反論、暗い題材の創作、テストや研究は、この禁止項目の対象から外れます。対象を読むときは、行為の極端さと繰り返しに加え、正当な目的があるかを一緒に確認すると、規則の範囲をつかめます。
主な対応は会話の終了
この項目では、Claude.aiとClaude Codeに既にある、会話を終了する仕組みを主に使います。やり取りを打ち切る対応です。利用方針全体には、警告や利用制限、アカウントの利用停止も定められています。個々の会話を終えることと、アカウントの利用を制限することは、別の対応として説明されています。
機器や専門分野では人が確認
AIがけがにつながり得る機器を動かす場合は、資格や能力を備えた人が監督し、必要なときに止められることを求めます。医療、法律、金融などの重要な判断では、専門家による確認と、AIを使っていることの開示が必要です。開示とは、AIを使っていると相手に知らせることです。任せる仕事に応じて、人の役割を定めています。
この記事に出てくる用語を確認する
- 利用方針
- 提供会社が定める、AIサービスの使い方のルールです。
- モデル
- 入力された文章などをもとに、答えを作るAIの仕組みです。
- 開示
- ここでは、AIを使っていることを相手に知らせることです。
本誌の考察
AIと長く付き合うためのルール
本誌が注目するのは、AIとの会話を終える対応が、人の接し方を定める規則と結び付いた点です。人がAIに仕事を頼む場面には、頼み方や監督の仕方も含まれます。長い仕事を任せるほど、どんなときに会話や作業が止まるのかを互いに確認できることが、使いやすさにつながりそうです。
例えば、家庭用ロボットや複数のAIと暮らす未来を想像してみます。朝、家族が予定を伝え、AIが家事の順番を組み、掃除ロボットが部屋を回ります。そこで予定が変わったら、家族は理由を伝えて頼み直すでしょう。AIの答えに反論することも、別の案を求めることも、共同作業の一部になります。
こうした暮らしでは、AIが会話を区切るときの説明にも工夫が欲しくなります。何が起きたか、続けるにはどの点を話し合えばよいかが分かれば、人も次の行動を選べます。家庭ごとの使い方を分かりやすく決める画面が育ち、家電の設定をするように、AIとの付き合い方を家族で相談する日が来るかもしれません。
人が監督する役割を分かりやすく組み込めれば、街で楽しめることも増えそうです。例えば、近所の共同工房でAIと家具を設計し、資格や技能を持つ担当者の監督で加工機を動かす暮らしです。住民は欲しい形を考え、AIは設計を助け、担当者は動きを確かめて必要なら止めます。役割が分かれば、初めての人もものづくりに参加しやすくなるでしょう。
その先には、家庭や店、工房ごとに、異なる話し方や仕事の進め方をするAIがいる街を思い描けます。自分に合うAIと相談し、時には意見を変えながら、一緒に何かを作る。AIを選ぶときに、賢さや料金とともに「長く付き合いやすいか」を確かめる暮らしが始まるのかもしれません。
参考資料
無料会員で、もっと読む
気になる未来を、これからも。
無料会員は、ニュースを週3本まで全文で読めます。やさしい解説と本誌の考察で、日々の進歩を追いかけられます。
カード登録不要。気になる記事の保存や、新着メールの設定もできます。
