生成AI/AIエージェント業務利用は7割、うち9割がヒヤリハット

AIネイティブな業務とシステムを設計するIT戦略パートナーである当社は、企業のAXやDXを戦略から実装、運用までワンストップで支援する――

傑出した技術力の証明としてGoogle Cloud(Service、Co-sell)パートナー最上位のDiamond認定を受けているという。クラウドエースは5日、経営企画・情報システム・DX推進・事業開発担当者110名への「生成AI・AIエージェントの業務利用とリスク管理に関する実態調査」の結果を発表した。

今回、IDEATECH提供「リサピー®」の企画によるインターネット調査を実施し、生成AIの利用形態として「AIエージェント」を活用している企業が70.9%に達し、高度化の進んでいることがわかった。一方で、約85%がルールを文書化しているにもかかわらず、直近1年で9割以上の現場が「機密情報の入力」や「誤情報の出力」といったヒヤリハットを経験していた。

トラブルは「特にない」「把握してない」と答えた人を除く92.7%が、何らかのヒヤリハットを体験していることが明らかになった。その内容は、「誤った内容を社内や社外に出してしまいそうになった、または出してしまった」が50.9%、「入れてはいけない情報を入力しそうになった、または入力してしまった」が48.2%。「外部サービスや社内システムとの連携設定に不備があり、設定の見直しが必要になった」と47.3%が回答している。

上述の状況は、AI活用が進む中で、もはや「社員の良識やルール」だけでは統制が困難になっていることを示唆している。そのことは、今後の強化ポイントとして過半数が「システムによる制限・監視(54.5%)」を挙げていることからもうかがえたという。今般の実態調査の全データ(詳細なリスク対策の現状や、具体的なシステム制御の内容など)を含むレポートは、同社Webダウンロードサイトから入手できる。