AIが存在しない禁止ルールを理由に研究を停止　OpenAIが事例公表

本誌の考察

止める理由を確かめながらAIと働く

将来、AIに日々の仕事を任せるなら、作業を止める前に理由を人が確かめられる仕組みが大切になりそうです。今回の事例では、AIが自分で作った制限が研究の停止につながりました。「どの規則を読んだのか」「何を止めようとしているのか」が分かれば、人は判断の食い違いを具体的に調べられます。

例えば、小さな洋菓子店の売り上げをAIが集計する未来です。AIが個人情報の扱いに問題があると判断したら、根拠となる店のルールと、止める予定の処理を画面に並べます。店主は実際のルールを開いて確認し、誤解なら指示を直します。さらに、確認が要る部分だけを待機させ、残りを続けられるようになれば、店を開ける準備も進めやすくなります。

人が確認する操作をあらかじめ決め、判断に使った記録を残せるようになれば、店主は必要な場面に集中できます。土曜の朝、AIが注文を整理している間に、店主は試作した焼き菓子を常連客に味見してもらえそうです。仕事の途中で何が起きているかを確かめられることが、一人で店を切り盛りしながら新しい楽しみを増やす助けになるかもしれません。