自転車の絵に21分考える ノートPCで動くQwenの既定値

3行まとめ

• Alibaba が Qwen 3.8 27B を公開。17GB でノートPCでも動く
• 考える量の既定値が最高で、絵を1枚描くのに21分かかった
• 些細な問いでも、思考だけで扱える文章量の枠を食い潰す

何が起きたか

Alibaba の Qwen 研究チームが Qwen 3.8 27B を公開しました。Apache 2 ライセンスの270億パラメータのモデルで、画像も読めます。

チーム自身の測定値では、前世代の Qwen 3.6 27B を上回りました。重みを公開していない Qwen 3.7-Plus も超えています。配布されている量子化量子化モデル内部の数値を粗くしてファイルを小さくする処理。今回の配布版は Q4KM 形式で17GB版は17GBのファイル1つです。

試されたのは2台の機械です。128GB の M5 Max MacBook Pro と、NVIDIA DGX Spark。どちらも LM Studio から動かしています。

つまずいたのは既定の設定でした。ペリカンが自転車に乗る絵を SVG で描かせたところ、21分かかりました。思考に22,276トークンを使い、出てきた絵は3,223トークンです。

なぜ難しい・何がすごいか

原因は reasoning effort（推論努力度）という設定です。答えを出す前にどれだけ考えるかを決めます。Qwen 3.8 27B の既定は3段階の最高値 xhigh で、残りは medium と low です。

考える量が増えると、モデルが一度に扱える文章量の枠も削られます。LM Studio の既定の枠は8,192トークンでした。ありふれた質問でも、思考だけでここを使い切ってしまいます。

上限の262,144トークンまで広げると、この問題は消えました。同じ絵を思考なしで描かせた場合は137秒、2分あまりで終わっています。実際に2台で試した開発者は、既定値についてこう述べています。

あの既定値は無視することを強く勧めます

たとえ話

喫茶店で水を1杯頼んだら、店主が器と水温の相性を検討し始めた。そんな状態です。

「円の SVG を描いて」と頼んだときの思考は延々と続きました。同心円のガイド線を入れるか、配色をバウハウス風にするか。数分後に出てきたのは、頼んでいないアニメーション付きの美しい円です。

用語ミニ辞典

• 推論努力度（reasoning effort）: 答える前に考える量を決める設定。Qwen 3.8 27B では xhigh・medium・low から選ぶ
• 量子化: モデル内部の数値を粗くしてファイルを小さくする処理。今回の配布版は Q4KM 形式で17GB
• コンテキスト長: モデルが一度に扱える文章の量。思考の途中経過もここを消費する
• ローカルLLM: 手元の機械の中だけで動かすモデル。今回は17GBのファイルで完結する

技術者向けの深掘り

残る壁は速度です。LM Studio では毎秒15〜30トークンでした。

Artificial Analysis の計測では、OpenAI 5.6 Sol が毎秒74トークンです。5.6 Luna は184トークンでした。ホスト型のAPIと並べると差がはっきりします。

高速化の手はモデル自身に入っています。Qwen 3.8 27B は Multi-Token Prediction に対応します。軽い仕組みが数トークン先を推測し、本体が当たりを確認する方式です。

llama.cpp でこれを有効にした比較では、LM Studio の既定の GGUF より約72%速くなりました。

能力そのものは足りています。画像内のペリカンの位置を0〜1000の座標で返す指示には、写真とよく合う枠が返りました。コーディングエージェントの Pi につないで、コードの読解と Python スクリプトの作成もこなしています。

遅さの根はモデルの形にもあります。MoE を使わない密なモデルは、メモリ帯域を大量に要求します。試された2台はどちらもそこが得意ではありません。

これは自分に関係ある？

• AIの話題を追っている人: 17GBのファイルが手元の機械で絵を描き、写真の中の物体の位置も返します。1年前なら高価な商用モデルと張り合う水準でした。
• 手元でモデルを動かす人: 既定のまま使うと待たされます。low か思考なしから始めると、性能を確かめる手間が軽くなります。
• 開発の道具として見る人: 長い文脈・ツール呼び出し・コード生成の3つを、この大きさのモデルが同時に満たし始めました。データセンター級の機材が要らなくなる、その入口です。