若者がチャッピーに惑わされないように……「ChatGPT」へ“年齢推定モデル”が展開

公式ブログにおけるアナウンス

　米OpenAIは1月20日（現地時間）、公式ブログで「Our approach to age prediction」と題する記事を公開した。「ChatGPT」の一般向けプランに導入される年齢推定の仕組みが解説されている。

　最近「ChatGPT」は18歳未満の若者の間でも人気で、「チャッピー」という愛称が定着しつつある。将来への不安、人間関係の悩みなどを気軽に打ち明け、ときに解決のヒントを与えてくれる、人格をもったパートナーとして信頼されているようだ。

　しかし、「ChatGPT」のような生成AIはときに間違った答えを出したり、相手に都合のよい、おもねった対応を行うことがある。巧妙なプロンプト（AIへの指示や質問）で暴力的・性的・グロテスクな応答を引き出せてしまったり、内向的な対話が自傷行為を後押しする結果につながったりすることもあるかもしれない。

　そこで、「ChatGPT」の一般向けプランに青少年保護を目的とした年齢推定モデルが組み込まれることになった。モデルは以下の複数のシグナルを組み合わせて、ユーザーの年齢を推定するという。

• アカウントの存在期間
• アクティブになる時間帯
• 利用パターン
• ユーザーが申告した年齢

　18歳以下と判定されたユーザーに対しては、「ChatGPT」で以下の保護が自動で適用される。これらは青少年の発達科学や専門家の知見に基づいて設計されているという。

• 暴力的・グロテスクな内容の制限
• 危険行為を助長する可能性のあるコンテンツの制限
• 性的・ロマンチック・暴力的なロールプレイの禁止
• 自傷行為に関する描写の制限
• 極端な美容基準や不健康なダイエットを促す内容の制限

　誤って18歳以下と判定されてしまっても、本人確認サービス「Persona」でセルフィー（自撮り）認証を行えば解除手続きが可能だ。

　このモデルは段階的に展開され、フィードバックをもとに継続的に改善していくとのこと。保護者による制限（ペアレンタルコントロール）も可能で、利用を禁止する時間帯を定めたり、メモリや学習の設定を制限したり、ストレス兆候を検出すると保護者に通知したりといったオプションが用意される。