日本電信電話（以下、NTT）は、IOWN構想の一環として、Red Hat、NVIDIA、富士通の協力のもと、IOWN技術を用いて郊外型データセンタを活用したリアルタイムAI分析を省電力に実現する技術を開発した。
同AI分析基盤では、IOWN Global Forumで検討されているAPNによる低遅延・ロスレス通信、並びにDCIにおけるデータ処理高速化手法を活用。大規模データの収集に関するオーバーヘッドが最小限に抑えられるため、大都市圏内に設置されたセンサからデータを収集し、郊外型データセンタでAI分析することが可能になるという（図1）。特に、郊外型データセンタは、大都市圏内に設置されたデータセンタと異なり、再生可能エネルギーを最大限活用できるという利点があるとしている。実証実験におけるAI分析基盤の特徴は以下のとおり（図2）。
- NTTによるAI推論のデータ処理高速化：RDMA over APNを用い、センサ設置拠点におけるセンサデータを、郊外型データセンタに設置されたアクセラレータのメモリ上に直接転送。CPUによる制御オーバーヘッドを抑えつつ、アクセラレータ内でAI分析処理を完結させることで電力効率を改善
- Red Hat OpenShiftによるワークロードの配備：Red Hat OpenShiftにより、データ処理高速化が適用されたワークロードを郊外型データセンタをはじめとする複数サイトに配備できる
図1：大都市圏における郊外型データセンタによるAI分析
［画像クリックで拡大表示］
図2：同AI分析基盤の特徴
［画像クリックで拡大表示］
同実証実験では、横須賀市におけるセンサ設置拠点と、武蔵野市における郊外データセンタとをAPNで接続してAI分析基盤を評価しており（図3）、横須賀市と武蔵野市間の光ファイバの距離はおよそ100km。センサとして多くのカメラ接続を模擬した状態で、従来のAI分析処理を適用した結果と比較した結果、同AI分析基盤では、その遅延時間（センサ設置拠点でデータを受信してから郊外型データセンタでAI分析を完了するまでの時間）を、最大で60％削減できることを確認したとしている。
また、郊外型データセンタにおいてカメラごとのAI分析に要する消費電力を最大で40％削減。加えて、同AI分析基盤は、GPUの数を増設することで、CPUボトルネックを生じさせることなく、多くのカメラを収容できる。その結果、1,000台カメラの収容を想定した見積りにおいて、最大で60％の消費電力の削減が見込まれているという。
図3：実証実験の構成
［画像クリックで拡大表示］
今後は、同AI分析基盤に光電融合技術を組み合わせ、電力効率の向上を図り、カーボンニュートラルの実現に向けて貢献するとのこと。また、これらの成果は、IOWNコンピューティングの一部として、2025年大阪・関西万博におけるNTTパビリオンに適用するとともに、2026年の商用化を目指すとしている。