GPT-6、同じ資料の読み直しを削減 AIの長い仕事を安く速く
9月22日、OpenAIはGPT-6向けのプロンプトキャッシュの改善を発表した。AIが何度も使う指示や資料を毎回処理し直さず、前の計算を再利用する仕組みだ。対象になる共通の入力部分は、30分以内の再利用で割引を受けられる。
再利用の割合を見る画面と、失敗の原因を調べる機能も追加した。再利用対象の入力料金は最大90%引きとなるが、出力や再利用できない部分まで90%安くなるわけではない。長い会話の途中で考える量を変えても、条件を守ればキャッシュを保てる。
本紙の考察
資料を整えておくことが、AIの運転費用を変える
本紙が注目するのは、同じAIを使っても資料の渡し方で費用が変わる点だ。毎回書き換わる説明と、変わらない手順書を分ければ、同じ計算を繰り返す無駄を減らせる。AIの導入では、モデル選びと同じくらい、社内の情報整理が効く場面が増えそうだ。
その余裕を、回答を一度作るだけでなく、別案を比較したり間違いを探したりする時間に回せる。安くなることの価値は、同じ仕事を安く済ませるだけでなく、これまで省いていた確認を増やせることにもある。
今後、暮らしはどう変わる？
ここからは、ニュースをもとに考えた未来の予想です。
小さなお店にも、事情を知るAIの仕事仲間
将来、小さなお店のAIが商品説明や接客方針を共通の資料として使い、午前は問い合わせへの返信案、午後は新商品の案内を作る。毎回、最初からお店の説明をやり直す待ち時間が短くなるかもしれない。
これは将来の使い方の想像だ。今回の30分という条件を超えて何でも覚え続ける機能ではないが、情報を準備する工夫が進めば、小さな事業でも長い仕事を任せやすくなる。
