AI開発
推論コストの経済学 — 費用の重心はどこへ移るか
学習の費用は一度きりだが、推論の費用は使われるたびに発生する。この非対称性は当初から指摘されていたものの、モデルの規模が話題の中心にあったあいだは背景に退いていた。運用…
§ 分野
AI開発
基盤モデルの学習と評価、推論コスト、能力の限界。研究論文と一次発表を突き合わせ、何が実証され、何がまだ主張の段階にとどまるのかを整理します。
AI開発
ベンチマークが測っていないもの
あるモデルがベンチマークで高い数値を出したという発表は、そのモデルが業務で役に立つという主張とは別のものである。この二つを結ぶには、ベンチマークが何を代理しているかとい…
AI開発
スケーリング則は性能を約束したわけではない
基盤モデルの性能が学習計算量とともに向上するという観測は、2020年以降、この分野でもっとも引用される経験則になった。ただし「向上する」ことと「投資に見合う」ことは別の…