富士通が対話型生成AIの信頼性向上のための2つのAIトラスト技術を開発

automatically summarised by GPT

富士通は、対話型生成AIの回答の信頼性を向上させるための2つのAIトラスト技術を開発しました。これらの技術は、「Fujitsu Kozuchi (code name) - Fujitsu AI Platform」の対話型生成AIコアエンジンに搭載され、2023年9月28日から法人向けの実証実験環境として提供を開始します。また、個人向けにも当社ポータルサイト上からトライアル環境を提供します。 1つ目のAIトラスト技術は、対話型生成AIがデータに基づかないもっともらしい誤りを回答してしまう幻覚（ハルシネーション）を検出する技術です。対話型生成AIの回答文をAIが意味解析し、幻覚が生じやすい固有表現部分を特定して重点的に確認することで、既存手法よりも幻覚を高精度に検出します。 2つ目の技術は、対話型生成AIが悪意ある情報を覚え込ませる攻撃を受けてフィッシングサイトURLを回答出力してしまう問題に対応できる技術です。対話型生成AIに本技術を搭載することで、AIを騙す既存の敵対的攻撃を含むフィッシングサイトを高度に検出し、利用者に危険なURLであることを伝えます。 富士通は今後も、対話型生成AIをはじめとするAIの品質やセキュリティ、倫理などのAIトラストを向上させる技術を世界に先駆けて研究開発し、実証実験や有効性検証を進めることで、お客様が安心してAIを利用できる社会づくりに貢献していきます。