品質だけでは見抜けない記憶方式の実力 BudgetBenchは予算超過率と遅延も記録する
ローカルで動かすAIエージェントの「記憶のしかた」を比べる研究の多くは、いちばん大事な条件を抜かしている。1回の呼び出しで使える入力トークンの上限(予算)だ。エージェントがどう覚えておくかを、研究者は評価する。切り捨て、要約、検索、それらの組み合わせなどがある。たいていは品質スコアを1つだけ報告する。各方式が入力トークンをいくつまで使ってよかったのかは、ほとんど書かれない。この抜けが結果をゆがめる。ある方式は積極的に検索して8Kの枠をいっぱいに使う。