OpenAI は 5 月 7 日、ChatGPT の会話から深刻な自傷の可能性を検知した際に、ユーザーが事前に指名した連絡先へ通知を送る新機能「Trusted Contact」を発表しました。同日からグローバルに段階展開を開始し、設定画面から成人 1 名 (グローバル 18 歳以上、韓国は 19 歳以上) を登録できます。

主なポイント

  • 自動モニタリング系が深刻な自傷の懸念を検知すると、ChatGPT が「Trusted Contact に通知する可能性がある」とユーザーに伝え、専門訓練を受けた小規模なレビューチームが状況を確認
  • レビュー後に必要と判断された場合、登録先にメール / SMS / アプリ内通知のいずれかで短い注意喚起を送付
  • プライバシー保護のため、通知に会話の具体的な内容は含めない
  • 招待を 1 週間以内に承諾しないと連携が無効になる仕組み
  • 既存の保護者向け acute distress 通知 (ティーン専用アカウント連携) を成人にも拡張する位置付け

出典: OpenAI introduces new 'Trusted Contact' safeguard for cases of possible self-harm (TechCrunch)