3行まとめ
- コーディングAI「Claude Code」で、コマンド実行前の権限確認をAIが自動判定する「auto mode」が8月14日からデフォルトになります
- 専用の分類器が操作を1件ずつ評価し、取り消し不能・破壊的・環境外に影響する操作をブロックします
- 720回の攻撃シナリオテストで突破ゼロという結果の一方、Anthropic自身が「リスクを完全に排除するものではない」と明言しています
何が起きたか
これまでのClaude Codeは、ファイル削除やコマンド実行のような操作のたびに「実行していいですか」と人間に確認を求めてきました。auto modeでは、その判断を専用の分類器が代行します。
分類器は操作を1件ずつ評価し、取り消し不能な操作・破壊的な操作・ユーザーの環境外に影響する操作をブロックします。ブロックされた場合、Claudeは安全な代替手段を探すか、ユーザーに直接確認します。8月14日からPro・Max・Teamプランでデフォルトになり、今後1カ月以内にEnterprise・Claude API・AWS・Google Cloud・Microsoft Foundry向けにも広がる予定です。
なぜ難しい・何がすごいか
要は「確認疲れ」への回答です。
AIに作業を任せると、確認ダイアログが何十回も出ます。人間は途中から読まずに「はい」を連打するようになる。こうなると確認は安全装置として機能していません。形だけの関門です。それなら、危険な操作の識別そのものをAIにやらせて、人間には本当に判断が要るものだけを届けるほうが安全ではないか——auto modeの発想はここにあります。
数字も出ています。分類器の危険操作の見逃し率は12%から7%に改善され、720回の攻撃シナリオテストではauto mode搭載モデルへの成功例がゼロでした。ただしAnthropicは、分類器に依存する仕組みである以上リスクは完全には消えないとし、本番インフラに関わる重要な変更は引き続き人間が確認することを推奨しています。安全宣言と限界の明示がセットになっている点は、読み飛ばさないほうがいい部分です。
たとえ話
空港の手荷物検査を思い浮かべてください。以前は全員が係員の目視チェックを受けていました。auto modeは自動検査レーンの導入にあたります。大半の乗客はスムーズに通過し、機械が反応した人だけが係員の詳細確認に回される。検査の総量は減っても、怪しいものへの注意はむしろ濃くなる設計です。ただし機械の見逃しはゼロにはならないので、重要便には人の目を足す——そこまで含めて似ています。
用語ミニ辞典
- Claude Code: Anthropic製のコーディングAI。ターミナルからコードの読み書きやコマンド実行を任せられる
- 分類器: 入力を「危険/安全」などに仕分ける専用の判定AI。生成AI本体とは別に動く
- 取り消し不能な操作: ファイルの完全削除や本番環境への反映など、実行後に元へ戻せない操作
- 攻撃シナリオテスト: わざと悪意ある指示や罠を与えて、防御を突破できるか試す評価
技術者向けの深掘り
運用面の選択肢は残されています。CLIでは「Shift+Tab」でモードを切り替えられ、既存設定のユーザーには移行時に確認ダイアログが出ます。組織の管理者は「defaultMode」の固定やauto mode自体の無効化が可能です。つまり強制ではないものの、既定値の変更は事実上の標準の変更を意味します。
もう1つ実務に効くのが、分類器実行による追加トークン課金の廃止です（8月7日付）。安全機構の利用にコストペナルティが付かなくなったことで、「課金を気にして安全機能を切る」という本末転倒を防ぐ構造になりました。見逃し率7%という数字をどう評価するかは環境次第です。個人の開発機と本番クラスタでは、同じ7%の重みがまったく違います。
これは自分に関係ある？
- Claude Codeユーザー: 8月14日以降、挙動が変わります。何もしなければauto modeです。本番につながる環境で使っているなら、defaultModeの明示設定を検討する時期です
- 他のAIツールを使う開発者: 「人間の確認」から「AIによる確認の代行」への流れは、業界全体に波及する可能性が高い設計変更です。確認疲れの問題は全ツール共通なので
- AIを使っていない人: 「AIがAIを監視する」構図が実用に入った事例です。人間の役割が「全件確認」から「例外対応」へ移る変化は、ソフトウェア以外の仕事にも遠からず来ます