自分の宿題を自分で採点させない Robloxが年齢推定の監査に応じた経緯

3行まとめ

• 豪eSafetyの検証で、大人が子どものアカウントに接続申請を送れる状態が残っていた
• 子どもの交友関係とプロフィールが、誰からでも見える設定だった
• Robloxは3か月以内の改修と、年齢推定年齢推定利用者が申告した生年月日に頼らず、年齢層を機械的に見積もる仕組み。今回は第三者監査の対象に含まれます。用語集でこの語を見る技術への第三者監査を法的に約束した

何が起きたか

オーストラリアのeSafetyコミッショナーeSafetyコミッショナーオンライン安全法にもとづき、事業者が規範を満たしているかを検査する豪州の規制機関。用語集でこの語を見るが、Robloxの安全対策に穴が残っていることを検証で確認しました。大人が子どものアカウントを見て、保護者の同意なしに接続申請を送れる状態でした。

ゲーム環境の外にあるフォーラムでは、子どもと大人が互いの投稿を見て返信できました。子どもの交友関係とプロフィール、つまりアカウント名や興味は、誰からでも見えていました。

Robloxはこれを受け、規制当局に法的な約束を提出しました。3か月以内に改修し、第三者の監査人を起用して年齢推定技術を含む安全対策を評価させます。約束が破られた場合、当局は連邦裁判所に履行命令を申し立てる可能性があります。

なぜ難しい・何がすごいか

Robloxは昨年12月に、すでに手を打っていました。16歳未満のアカウントは既定で非公開になり、保護者の同意なく大人が16歳未満に接触できない仕組みが入りました。年齢推定を通すまで直接チャットは既定でオフ。

13歳から15歳は保護者がチャットを無効化でき、音声チャットは12歳以下と同じく使えません。子どもが不適切な内容にさらされたり勧誘の対象になったという報告を受けた対応でした。

それでも今年の検証では、接続申請の経路が残っていました。設定を締める作業と、締まっていることを外から確かめる作業は別物です。ここが今回の分岐点です。

コミッショナーのJulie Inman Grantは、第三者監査の狙いをこう説明します。Robloxに「自分の宿題を自分で採点する」ことを許さないため、と述べています。

たとえ話

玄関の鍵を新しいものに替えた家を想像してください。ドアは確かに開かなくなりました。ところが表札の隣に、住人の名前と友人一覧、好きなものを書いた紙が貼られたままです。

おまけに裏口のインターホンは、誰でも押せます。

鍵の交換は本当に済んでいる。それでも家の中身は外から分かる。今回指摘されたのは、この状態です。

用語ミニ辞典

• 年齢推定: 利用者が申告した生年月日に頼らず、年齢層を機械的に見積もる仕組み。今回は第三者監査の対象に含まれます。
• 法的な約束（undertaking）: 事業者が規制当局に差し出す確約。履行されなければ、当局は裁判所を通じて実行を求められます。
• eSafetyコミッショナー: オンライン安全法にもとづき、事業者が規範を満たしているかを検査する豪州の規制機関。
• 16歳未満のSNS禁止: 豪州の規制。ゲームが主目的のプラットフォームは対象外で、Robloxは除外されています。

技術者向けの深掘り

年齢推定は、正解が手元にない推定です。誤りは両方向に痛みます。子どもを大人と見積もれば保護が外れ、大人を子どもと見積もれば正当な利用が止まります。

閾値をどこに置いたかは事業者の内部判断で、外からは見えません。監査人が精度を検査する対象になったのは、この不可視性が理由です。

もう一つは面の数です。既定値を非公開に変えても、接続申請やフォーラムのように別の入口が残れば接点は生まれます。今回の3つの指摘は、いずれも設定そのものではなく機能の面が漏れた型でした。

適用範囲にも余地があります。Robloxはゲームが主目的という区分で、16歳未満のSNS禁止16歳未満のSNS禁止豪州の規制。ゲームが主目的のプラットフォームは対象外で、Robloxは除外されています。用語集でこの語を見るの対象外です。ただしコミッショナーは、SNS的機能が主目的と判断された場合の対象化を排除していません。

これは自分に関係ある？

• サービスを作る人: 既定値を安全側に倒す改修と、接点の棚卸しは別工程になります。機能を1つ足すたびに、面が1つ増えます。
• 規制の動きを追う人: 当局は制裁を先に出さず、法的な約束を取り、履行がなければ裁判所に持ち込む段取りを見せました。
• ゲームとSNSの区分が気になる人: 主目的による線引きは固定ではありません。機能の比重が変われば、適用される規制も動きます。豪州では約170万人の子どもがRobloxを使っています。