AIに恋愛の言葉を使わせない 13〜17歳向けChatGPTの設計

3行まとめ

• OpenAI が13〜17歳向けの ChatGPT を公開しました
• 18歳未満と推定された人は自動でこの体験に入ります
• 学習の支援と、恋愛的な言葉づかいの禁止が既定で入ります

何が起きたか

OpenAI が「ChatGPT for Teens」を発表しました。13歳から17歳の利用者に向けた体験です。年齢を13〜17歳と申告した場合、またはシステムが18歳未満と推定した場合、自動的にこちらに入ります。

中身は大きく2つです。ひとつは学習の支援で、答えを先に渡さず順を追って考えさせる Study ModeStudy Mode答えをそのまま渡さず、誘導する質問と段階的な支援で本人に解かせる機能。教員や研究者と一緒に設計されたと説明されています。 が中心にあります。もうひとつは保護機能で、18歳未満向けの安全策が最初から有効になっています。

保護者向けの制御も続きます。子どものアカウントと紐づけた保護者は、Quiet Hours の設定や一部設定の管理ができます。危険度の高い場面では通知も届き、今回そこに摂食障害に関するものが加わります。

なぜ難しい・何がすごいか

年齢で線を引くには、まず年齢を知る必要があります。自己申告だけでは崩れます。そこで年齢推定年齢推定申告がなくても、利用者が18歳未満かどうかをシステムが見積もる仕組み。を組み合わせ、申告がなくても18歳未満と見積もった人を自動で振り分ける作りにしました。

もうひとつの難所は、守ることと学ばせることが逆を向く点です。危ないものを全部塞げば、調べる・作る・試すまで削れます。公表資料では、自傷、暴力、摂食障害、危険な行為、性的または過激な描写といった領域に絞って介入すると説明しています。

規制の対象は出力の中身にも及びます。18歳未満向けのモデル仕様は、恋愛的な言葉を使わないことを求めています。感情的な依存を促すことや、自分に感情や意識があるように振る舞うことも避けるべきだとしています。

ここが今回の芯です。

たとえ話

自動車教習所のコースを思い浮かべると近いです。公道より制限は多く走れる範囲も決まっていますが、運転そのものは覚えられます。使える幅を狭めながら学ぶ動作は残す、という形が今回の設計にも見えます。

用語ミニ辞典

• Study Mode: 答えをそのまま渡さず、誘導する質問と段階的な支援で本人に解かせる機能。教員や研究者と一緒に設計されたと説明されています。
• 年齢推定: 申告がなくても、利用者が18歳未満かどうかをシステムが見積もる仕組み。
• Model Spec: モデルがどう振る舞うべきかを書いた OpenAI の仕様文書。18歳未満向けの原則がここに置かれています。
• Study Hours: Study Mode を既定で有効にする時間帯。本人か保護者が決められます。
• システムカード: モデルの評価結果を公開する文書。18歳未満向けの評価項目が追加されました。

技術者向けの深掘り

制御は2層に分かれています。モデル側は18歳未満向けの原則で出力そのものを規定します。プロダクト側はリマインダーやモード切り替えで介入します。

宿題を丸写しで済ませようとする気配を検知して Study Mode へ誘導する仕組みは、後者にあたります。

評価も公開側に寄せています。OpenAI はシステムカードシステムカードモデルの評価結果を公開する文書。18歳未満向けの評価項目が追加されました。に18歳未満向けの評価を追加しました。対象は自傷、摂食障害、暴力、年齢制限のある商品やサービス、性的な内容です。

安全性を文章の約束ではなく測定項目に落とした点が、実装として読めます。教室の中は範囲外で、学校向けには ChatGPT for Teachers が別に置かれています。

これは自分に関係ある？

中高生の子どもがいる人には、既定値が変わる話です。子どもが自分で設定しなくても保護がかかります。アカウントを紐づければ、保護者の側から時間帯や通知を扱えます。

教育に関わる人には、線引きの話です。教室の中と外で製品が分かれました。

作り手には、年齢別の既定値と評価指標の置き方の実例になります。振る舞いの規定と測定をセットで公開する形が参考になります。