ただの自動補完でも原始的な心でもない 心理学者がLLMへの誤解6つを仕分ける

3行まとめ

• 「ただの自動補完」も「原始的な心」も、LLMの特徴の1つを全体と取り違えた見方です
• 論文は4つの区別を立て、6つの誤解がそれぞれどこで混同を起こすかを仕分けます
• 同じ枠組みを出版社のAIポリシーに当て、文言の混同と直し方も示します

何が起きたか

LLM（大規模言語モデル）への誤解を仕分ける論文が2026年に出ました。著者は延世大学（韓国）の心理学者 Zhicheng Lin 氏です。査読誌 PNAS Nexus に掲載済みの論考（Perspective）です。

Lin 氏が相手にするのは、LLMをめぐる決まり文句の両極です。批判側は「ただの自動補完」「確率的オウム確率的オウム意味を参照せず言語の形だけをつなぐ、という批判を込めたLLMの呼び名です。元は学習の規模やデータの出所を問う議論の一部でした。用語集でこの語を見る」「ネットの平均」と切り捨てます。擁護側は「原始的な心」「創発するエージェント」と持ち上げます。

論文はどちらの言い方も、正しい部分を全体像に膨らませた「素朴理論」だと診断します。素朴理論とは、直感で組み立てた説明モデルのことです。

なぜ難しい・何がすごいか

誤解を解く道具は4つの区別です。

• 学習と配備: 次の単語を予測する事前学習と、道具や検索を組み込んだ配備配備学習を終えたモデルに、プロンプト・道具・記憶を付けて製品として動かすことです。用語集でこの語を見る後のシステムを分ける
• 分布とサンプル: モデルが学んだ確率分布と、温度や top-p の設定で選ばれた個々の出力を分ける
• 3種の記憶: 重みに焼き付いた記憶、会話履歴が入る文脈の記憶、ログやプロフィールを置く外部の記憶を分ける
• 能力と主体性: 課題をこなす力と、信念や意図を持つ主体であることを分ける

「ただの自動補完」という誤解を例にとります。事前学習の説明としては正確です。しかし道具をつなぐと、同じ予測器がシステムとして別物になります。

ゲノム課題のベンチマーク GeneTuring が実例です。Codex に NCBI の Web API をつないだ GeneGPT は 0.83 を出しました。道具なしのLLMは 0.00〜0.44 です。

予測器は同じで、システムが違う。この差を「自動補完」の一言は説明できません。

たとえ話

論文はLLMを「談話のシミュレータ」と位置づけます。フライトシミュレータは操縦の場面を再現しますが、それ自体はパイロットでも飛行機でもありません。

LLMも同じで、言葉のやり取りと課題の遂行を再現します。再現がうまい事実は、中に心がある証拠にも、中身が空っぽな証拠にもなりません。この位置づけが、オウムか心かの二択を外します。

用語ミニ辞典

• 確率的オウム: 意味を参照せず言語の形だけをつなぐ、という批判を込めたLLMの呼び名です。元は学習の規模やデータの出所を問う議論の一部でした。
• RLHF: 人間がつけた良し悪しの評価を報酬にして、モデルの重みを追加で更新する学習法です。
• 文脈窓: モデルが一度に読める入力の上限です。会話履歴はこの中にある間だけ参照されます。
• 配備: 学習を終えたモデルに、プロンプト・道具・記憶を付けて製品として動かすことです。

技術者向けの深掘り

RLHFRLHF人間がつけた良し悪しの評価を報酬にして、モデルの重みを追加で更新する学習法です。用語集でこの語を見る を「剥がせる安全フィルタ」とみなす誤解には、DeepSeek-R1 が実例として挙がっています。R1 の検閲は重みの中と配備時フィルタの両方に実装されています。外部の研究グループは追加学習や重みの編集で、ベンチマーク性能を保ったまま政治的な拒否を減らした変種を報告しました。

論文はこの検閲を、剥がせる膜でも不変の本質でもない編集可能な部品と読みます。RLHF は知識や能力を蓄えたのと同じ重みを書き換えるからです。

評価の単位も変わります。論文は、ベースモデルや既定のチャット出力ではなく、配備構成そのものを評価の単位にせよと主張します。

2024年のランダム化試験では、GPT-4 を使えた医師の診断スコアが対照群を2ポイント上回るだけでした。差は有意ではありません。GPT-4 単体は同じ対照群を16ポイント上回っていました。

追試験は、医師とAIが別々に評価した後にAIが統合する形へワークフローを組み替えました。すると医師の正答率は82〜85%に上がりました。従来リソースの群は75%です。

モデルは同じで、ワークフローが違う。

これは自分に関係ある？

• チャットAIを日常で使う人: 「AIは私を覚えている？」への答えは1つになりません。論文は、重み・会話の文脈・製品側の保存領域のどこに情報が置かれて再利用されるかを分けて問え、と勧めます。
• AIを組み込むエンジニア: 能力の評価はベースモデル単体では外れます。プロンプト・デコード設定・検索・道具・記憶層を含めた配備構成で測り、記憶は監査できる層として設計します。
• 論文や記事をAIと書く人: Lin 氏は SAGE・APS・APA のAIポリシーの文言も同じ枠組みで点検しました。逐語コピーだけを警戒する書き方は、出典を示さない言い換えや論法の借用を軽く見せると指摘しています。