沒有推理護城河 自2023年以來,隨著torch 2.0的模型編譯和DiT的轉換,這種情況就沒有改變過 Nvidia在長期的推理市場中因為批量處理而失去市場,這樣可以降低總擁有成本(TCO)(AMD)和實時處理(TPU,ASIC)