幅広いトピックで自然な対話のできる生成AIが注目されている。現在、多くの組織が、その業務適用に向けて検討を進める中、高い対話品質やセキュリティ面での信頼性の確保が課題となっている。そこで、長年培ってきたAIの信頼性を担保する研究の取り組みを活かし――
特に業務への適用が可能な信頼できる生成AIを実現する技術の研究開発を行ってきたという。富士通は、生成AIによる回答の信頼性を向上する2つのAIトラスト技術――幻覚検出技術とフィッシングURL検出技術を開発した。これらを「Fujitsu Kozuchi (code name) - Fujitsu AI Platform」の対話型生成AIコアエンジンに搭載し、日本国内の法人・個人向けにトライアル環境を提供する。グローバルにも展開予定だという。
幻覚検出技術（国内リリース9月28日）は、生成AIがデータに基づかないもっともらしい誤りを回答してしまう"ハルシネーション"を見極める。回答文をAIが意味解析、かつ幻覚の生じやすい固有表現部分を特定して重点的に確認することで、既存手法よりも幻覚を高精度に検出する。
フィッシングURL検出技術（同10月）は、悪意ある情報を覚え込ませる攻撃を受けたAIがフィッシングサイトURLを回答出力してしまう問題に対応できる。生成AIに同技術を搭載することで、AIを騙す既存の敵対的攻撃を含むフィッシングサイトを高度に検出し、利用者に危険なURLであることを伝える。
今回個人の利用者も、Fujitsu Research Portalでアカウントを作成すればトライアル利用が可能になるという。同社は今後も、対話型生成AIをはじめとするAIの品質やセキュリティ、倫理などのAIトラストを向上させる技術を世界に先駆けて研究開発し、実証実験や有効性検証を進めることで、顧客が安心してAIを利用できる社会づくりに貢献していく考えだ。