高性能で多様なAI基盤モデルが利用可能となった。近ごろ多彩な企業・団体で生成AIの活用が進んでいる。同モデルは平凡なタスクを追加学習なしで遂行するほか、各組織固有のタスク・領域への高精度化のためにデータセットチューニングを行い、目的別特化モデルとして活用することも一般的となっている。
生成AI活用の長期化に伴い、そのような特化モデルの保守コストは無視できない問題となる。特にその元となるAI基盤モデルは、知識の最新化やモデル構造の変更などにより定期更新されるが、その更新に特化モデルを追随させるためには、基盤モデルを変更する度に再学習が必須となる。学習時は推論時よりも多くの計算リソースを要し、基盤モデル毎にハイパーパラメータの調整も必要となる。その計算コストや人的コストが課題になってきているという。
NTTは、特化型AIの基盤モデル変更に伴う再学習を不要にする新たな学習の仕組みとして「ポータブルチューニング」技術を確立した。世界初だという同技術は、基盤モデルの出力を調整する独立したモデルを学習および再利用することで、別の基盤モデルにも学習内容を引き継げるようになり、異なる基盤モデルにおいても追加学習を行うことなく高い特化性能を実現する。
①報酬学習としての再定式化（報酬モデルの値を最大化する方向に基盤モデルの出力を補正する新たな特化学習の枠組みを導出）、②報酬モデルの再利用による学習転移を要点とする同技術の活用により、各組織での特化モデルに対する再学習コスト削減だけでなく、再学習させた場合に期待される効果を事前検証するなど幅広い応用が望める。
今後も大規模化するAIのコスト問題解決や多数のAIを連携させる「AIコンステレーション」の具現化につながる次世代技術の研究開発に貢献していくという。同社の上記成果は今月、機械学習分野の最難関国際会議「ICML 2025」で発表される。