AIの作業履歴を残して費用を削減　Asana、ブラウザー操作の改善を公開

AIが参照する作業の記録

ブラウザーを操作するAIは、画面を見て、情報を集め、次の操作を決めます。その際には、これまで見た画面や集めた文章も手がかりになります。作業が長くなるほど、AIへ渡す記録も増えていきます。例えば一冊を調べ終えて次の一冊へ進む際にも、依頼内容や、それまでの作業の記録をAIへ渡します。同じ情報を使う処理が何度も重なるわけです。

そこで役立つのが「キャッシュ」です。前と同じ入力部分の計算結果を再利用し、毎回の処理を軽くします。記録にある文章や画像をどのような並びで渡すかも、再利用のしやすさに関わります。

記録をまとめて整理する工夫

従来の構成では、古い文章や画面画像をほぼ毎回削っていました。このため入力の並びが変わり、前の計算結果を使いにくくなっていました。

今回の改善では、残せる文章量を増やし、画像は20枚までためてから最新の1枚に整理しました。同じ部分を繰り返し使えるようにし、ときどき記録を軽くする方法です。残す情報を増やしても、処理済みの部分を再利用しやすくなれば、全体の費用を抑えられます。Solだけで比べると、推定モデル費用は約4分の1でした。約76分の1という大きな差には、使うモデルの変更も含まれます。

手順の多い用事への広がり

例えば、旅行先の宿を探す場面を考えてみます。予算や移動時間を確かめ、候補を見比べて一覧にするには、多くの画面を行き来します。こうした作業でも履歴をうまく再利用できれば、一連の調べものをAIへ頼む費用を抑えやすくなるでしょう。調べる項目が多くて後回しにしていた用事も、まとめて頼みやすくなりそうです。