業務の高度化や効率化をめざし生成AIを活用する企業が増えている。昨今、事実に基づかない誤った情報をAIが生成するハルシネーション（幻覚）が課題となっている。生成AIは、不適切なプロンプトの内容あるいは質・量が不十分な学習データによって、そのような現象を生じさせることがある。
そのため企業は、プロンプト作成の教育や学習データの定期的な見直し、業務で利用する範囲を制限するなどの対策を講じているという。CTCは、金融機関向けのアプリ・システム基盤・AIサービス群を提供する「C-NOAH」（'25年1月リリース）に、AIガバナンスを強化する機能を追加した。米Dynamo AIのAI監査ツール「Dynamo Guard」を活用して、ハルシネーションを抑制し、C-NOAHのAIチャットボットの信頼性の向上につなげる。
金融機関における誤った情報の提供は、顧客や行員の不適切な投資判断とか顧客情報の漏洩等を招く可能性があるので、チャットボットの回答精度を高めることにより、インターネットバンキングやFAQシステムでの問合せ対応精度および信頼性アップを狙う。
入力プロンプトと企業のコンプライアンスポリシーとの整合性をリアルタイム検証する、同ツールは、コンプライアンス上不適切と判断される内容が入力された場合、当該プロンプトをAIの学習データとして使用せず、回答の生成を自動停止する。また、生成内容を公的機関・企業・業界団体の公式データなど高信頼情報と照合し、回答の正確性を定量評価しその結果が所定水準以下なら、アラートを表示して利用者に注意を促すという。
同社は今後も、ハルシネーション抑制を含むAIガバナンスの強化をはじめ、顧客の業務に合わせてC-NOAHのカスタマイズや新たなアプリケーションの開発を行いつつ、生成AIの信頼性向上と安全な活用を通じて金融業界における業務の高度化・効率化を支援していく考えだ。