モデル選びより確実だった 費用が平均40%落ちたAIの外側

3行まとめ

• Writer が新モデル Palmyra X6 を公開。Z.ai の GLM-5.2 の追加学習版
• モデルを動かす外側の仕組み「ハーネス」の改良と合わせ、基本タスクの費用を最大50%削減
• 同社の論文では、ハーネスの変更がモデル選択より確実に効き、費用は平均40%下がった

何が起きたか

AIツールを提供する Writer が8月13日、新しいフラッグシップモデル Palmyra X6 を公開しました。マーケティング担当者向けのAIツールとエージェントエージェント複数の手順を自分で進めていくAI。1往復で終わらないぶんトークンを多く使います。を扱う会社です。

Palmyra X6 の土台は Z.ai のオープンソースモデルオープンソースモデル中身が公開され、自分の手元で動かしたり手を入れたりできるモデル。 GLM-5.2 です。これを追加学習して仕上げました。モデルを動かす標準のエージェント用ハーネスも、同じ日に大きく改良しました。

Writer は、両方合わせて基本タスクの費用が最大50%下がると見ています。CEOのMay Habib氏は、企業は次のベンチマーク追いにうんざりしていると TechCrunch に述べています。費用の急増が大手AIラボへの不信を広げているとも語っています。

なぜ難しい・何がすごいか

ハーネスは、モデルを実際の仕事に動かすための外回りの仕組みです。指示文の組み立て方、どの道具をいつ呼ぶか、過去のやり取りをどこまで持ち回るか。この段取り一式をまとめてこう呼びます。

AIの利用料はトークントークンAIが文章を処理するときの最小単位。利用料はこの量で決まります。の量で決まります。同じ仕事でも段取りが悪ければやり取りが増え、そのぶん請求も膨らみます。安いモデルに乗り換えるのは分かりやすい手ですが、仕事に合う一台を探し当てるのは簡単ではありません。

ハーネスを直すと、どのモデルを使っていても無駄が減ります。Writer の研究者はこう書いています。

ハーネスは、組織が動かすすべてのモデル、現在のものも将来のものも含めて、効率が掛け算される唯一の部品だ

たとえ話

配送会社が運送費を下げる場面に置き換えます。燃費のいいトラックに買い替えるのが、モデルを替える手です。配送ルートと積み込みの順番を組み直すのが、ハーネスを直す手にあたります。

ルートの改善は、どの車種のトラックにも同じように効きます。しかも一度直せば、車を買い替えたあとも効き続けます。

用語ミニ辞典

• ハーネス（harness）: モデルを実際の仕事に動かすための外回りの仕組み。指示の組み立て、道具の呼び出し、履歴の持ち回りなどを含みます。
• トークン: AIが文章を処理するときの最小単位。利用料はこの量で決まります。
• 追加学習（post-training）: 出来上がったモデルに、用途に合わせた学習を後から足すこと。
• オープンソースモデル: 中身が公開され、自分の手元で動かしたり手を入れたりできるモデル。
• エージェント: 複数の手順を自分で進めていくAI。1往復で終わらないぶんトークンを多く使います。

技術者向けの深掘り

Writer の研究者は、複数のモデルを対象にハーネスの効率をわずかに変える実験を行いました。多くのケースで、ハーネスの変更はモデル選択よりも確実な費用削減の手段でした。テスト全体では費用が平均40%下がっています。

今回の改良は、複数の手順をまたぐ複雑なタスクに重心を置いています。同じ仕事をより速く、より少ないトークンで終わらせる方向です。

顧客から見た使い勝手はモデル非依存のままです。Palmyra X6 は Writer の他のモデルと並びます。Azure や Amazon Bedrock 経由で持ち込んだ外部モデルとも共存します。

これは自分に関係ある？

• AIサービスを使うだけの人: 直接の影響は薄いものの、提供側の原価が下がれば料金プランに跳ね返ります。
• 社内でAIを導入する立場の人: 費用の話がモデル比較だけで進むとき、段取りの側にも同じ大きさの余地があるという材料になります。
• エンジニア: 自分で組んだエージェントなら、モデルに手を触れずにトークン消費を減らせる場所が残っているかもしれません。