大量データのリアルタイムコンピューティング、エッジAIにて実現

産業や医療・ヘルスケア分野でデジタル変革が進む。昨今その基盤として、あらゆるモノがネットにつながる「IoT」や、画像処理や推論に長けたAI(人工知能)など、先端的ICTの活用が加速。それと同時に、いわゆるビッグデータが様々な場所で生成され始めている。

米国IDCのホワイトペーパー(Seagate提供PDF)によれば、'25年までに1,500 億個ものセンサーやIoTデバイスが大量のデータを継続的に送出するようになり、その処理を要する。一種のストリーミングデータとなる、その量は、今日スマホユーザーが生み出すデータ量に比べ、桁違いに大きくなる。現状においても、クラウドに送信するデータの量を減らし、保証されたレスポンス時間でAI処理を実行したいとの要望が増え続けているという。

NVIDIAは、国際的ICTイベントCOMPUTEX台北の開催に合わせ現地にて27日、企業が低レイテンシのAIをエッジ(現場近傍)に設けて、5G基地局や倉庫、小売店、工場などから継続的に送られてくるデータを、リアルタイムで認識・把握し活用するための高速コンピューティングプラットフォーム「NVIDIA EGX」を発表した。データが生成されるエッジで瞬間的にハイスループットのAIを実施したいとの声に応えたものだという。

同プラットフォームの利用は、数ワットの電力消費で画像認識などのタスクを5,000億回演算/秒(TOPS)の速度で処理可能なNVIDIA Jetson Nano™ から始められる。リアルタイムの音声認識や、複雑なAI体験を求める数百のユーザーそれぞれに10,000TOPS超の演算能力を届けられる、フルラックのエンタープライズ向けNVIDIA T4サーバーへと拡張していける。

企業・団体向けに、Red Hatと協力してOpenShifとNVIDIA Edge Stackとの統合、および最適化を図ったという。