レイテンシー = 物理学。 ほとんどの「AI ラグ」はコードではなく、距離です。 ゲームのpingを思い浮かべてください。推論は、遠く離れたデータセンターではなく、ユーザーの近くで実行したいと考えています。 そのため、周辺にGPUを搭載したネットワークでは、遅延が大幅に短縮されました。 DeAIはインテリジェンスのCDNです。