大規模言語モデル（LLM）による生成AIが脚光を浴びている。昨今、多彩な場面で生成AIの活用が進む一方、企業においては、情報漏洩リスクや大規模データゆえの正確性担保の難しさなどが課題となっているうえ、差別・暴力表現や社会規範に反する表現などの不適切回答から利用者を守り――
安全に生成AIを活用するための仕組みが必要になっているという。法人事業ブランド「ドコモビジネス」を展開するNTTドコモグループ3社――ドコモ、NTT Com、NTTコムウェアは、生成AIによる社内業務のDX推進および生成AIの付加価値を高める新たなサービスの提供をめざし、生成AI利用時の安全性・利便性アップを目的に開発された「LLM付加価値基盤」を各社内で、全従業員の業務効率化に向けて活用する実証実験を今月21日に始める。
例えば、専門性の高い問い合わせに、社内ルールやマニュアルを基にLLMが生成した文章で回答を行うなどする。利便性や回答の正確性を検証し、顧客応対業務などへの適用可否を検討する。今回得られるノウハウから最適化を行い、法人顧客との検証を経て23年度中にサービスを始める予定。ドコモが保有するビッグデータや音声・画像認識系AI技術との組み合わせで、顧客と共に新たな付加価値サービスの検討を開始する。
プロンプト入力時に回答元となるマニュアルなどのファイルを追加投入すると、その内容により回答を生成かつ参照元を表示する機能などを備えている。機微情報の外部送出フィルタリング機能や、不適切回答のフィルタリング機能を追加するなどし、安全性を向上させることも目指す。
Azure OpenAI Serviceとの連携利用が可能である。ドコモが開発した同基盤は、今後、NTT研究所が独自開発する分野特化型LLMや、OSSや各ベンダのLLMを活用し、ユースケースに合わせ各種LLMを選択利用できる基盤として拡張していくという。