2022年の生成AI登場で世界が変わった。その開発～利用に人々が熱狂している。急発展して世界的に普及が進むAIに関し、昨年夏、世界初の包括的な法的枠組みを定めた「欧州AI規制法」が発効された。各国でも、AIのリスクに対処するための法令や指針の整備が進められ――
AIの開発・提供事業者はリスクの適切な管理が求められている。機器の自律制御、電力・社会インフラ、サイバーセキュリティなど安全第一のシステムでは特に、誤動作による損害が大きく、信頼性が重要となる。AIの信頼性は、モデル学習に用いていない有限個のテストデータで正解率などの指標を評価する。だが、AIの動作は非常に複雑で、テスト実施時の正解率が100％であっても、テスト未実施データでの誤動作リスクを排除できない。
そこで、AIに期待する動作を事前設定し、期待どおりに動作しているかを厳密に漏れなく検証する網羅検証の手法が提案されている。とはいえ、AIモデルのサイズが大きいと検証に膨大な時間を要する。誤動作リスクの大きさが不明で対処の優先度を判断しづらいことなども理由に、網羅検証を実施するケースは限定的だったという。
三菱電機は、決定木アンサンブルモデルを対象とした「AIの動作を短時間で漏れなく検証する技術」を発表した。同技術は「Maisart®」の開発成果で、AIが期待に反する動作（誤動作）を行うリスクを低減し、安心してAIを利用できる仕組みの達成に寄与する。
今回、網羅検証における問題を解決する技術として、数値データの予測等に広く用いられる上記モデルに対して効率的に網羅検証する新たなアルゴリズムと、これを用いた対話的な検証ツールを開発した。同技術を活用することで、AI開発者は網羅検証サイクルを高速循環させられる、AIの誤動作リスクを減らせるという。同社は、AIのリライアビリティを向上し、安心AI利用社会の実現に貢献していく構えだ。