自動運転や高度運転アシストの世界では、画像識別AIが大きな役割を果たす。同AIの基盤となる計算モデル、深層ニューラルネットワーク（DNN）では、多数のパラメーターが異なる物体の識別結果に対して複雑に影響するため、ある誤識別を改善するための修正が――
他の識別結果に意図しない"デグレ"を発生させる。従来のDNN技術には、複数タイプの致命的な誤識別に起因するリスクを狙い通りに低減できない課題があったという。NII アーキテクチャ科学研究系の研究チームは、九州大学 大学院システム情報科学研究院の研究チームとともに、上記リスクを効果的・効率的に低減する技術を開発した。この成果は、JST未来社会創造事業の支援を受けているEngineerable AIプロジェクトによるものだという。
同プロジェクトでは、役割の異なる複数のDNN修正技術を組み合わせ、画像識別用DNNを狙い通りに修正する研究開発を進めてきた。様々な誤識別を分類し、タイプごとの原因と修正方法を発見する技術（NII）、パラメーター修正と誤識別改善の履歴情報を利用することで修正による低下を抑制する技術（NII）、パラメーター値だけでなくDNNの基本構造自体も修正する技術（九大）などに取り組んできた。そして今回の新開発技術――
自動運転AI向けの実験では、関係企業などを交えて定めた安全性ベンチマークで評価を行い、多数の安全要求を満たした上で狙い通りの修正が可能であり、効果的・効率的にリスクを低減できることを確認した。今後この修正技術をフレームワークとして統合するとともに、自動運転のあり方に関するビジョンやポリシー、走行データの特性など企業ごとに異なるニーズに応じた産業実証に取り組んでいくという。
NIIと九大の研究成果はそれぞれ、国際会議ICST 2023、国際会議SANER 2023、ソフトウェア工学雑誌TOSEMで発表される予定だ。