#AI safety
このタグが付いた記事
Index
count=2- AI / MLtheme: テクノロジー
OpenAI、ChatGPT に「Trusted Contact」を導入 ⇒ 自傷の兆候時に身近な人へ通知
OpenAI は 5 月 7 日、ChatGPT の対話で深刻な自傷の兆候を検知した際、ユーザーがあらかじめ登録した 18 歳以上の信頼できる連絡先 (Trusted Contact) に短い通知を送る新機能を発表しました。会話内容は通知に含めず、専門訓練を受けた小規模なレビューチームが介在する設計で、5 月 7 日から段階的にロールアウトされます。
- Tech 政策theme: テクノロジー
米 CAISI、Google・Microsoft・xAI と展開前 AI 評価で合意 ⇒ サイバー・生物・化学リスクを検査
米商務省 NIST 傘下の CAISI (Center for AI Standards and Innovation) は 5 月 5 日、Google DeepMind・Microsoft・xAI の 3 社とフロンティア AI モデルの展開前評価に関する協定を締結したと発表しました。サイバー攻撃・生物兵器・化学兵器に関わる国家安全保障リスクを焦点に、安全装置を一部解除した版を機密環境で検査します。CAISI はこれまで 40 件超の評価を完了済みです。