打不過就加入！英偉達宣布使用DeepSeek公開表示其推理能力“最先進”

體育資訊2月1日報道宣稱 DeepSeek的R1模型推出后，引起了廣泛關注，更是一度讓美股大跌，英偉達一日蒸發6000億美元。

而近日英偉達宣布已在其網站上發布了采用DeepSeek R1 671b的“英偉達NIM微服務”預覽版，公開表示DeepSeek-R1推理能力“最先進”

英偉達表示 DeepSeek-R1 模型是最先進、高效的大型語言模型，在推理、數學和編碼方面表現出色。NIM 微服務在單個 HGX H200 系統上，每秒能處理多達 3872 個 tokens，這既得益于 H200 的 HBM3e 高帶寬內存等硬件，也離不開采用 DeepSeek R1 671b 后在軟件層面的優化，如動態批處理、量化、TensorRT 加速等。

一方面，英偉達此舉是為了完善 NIM 生態，吸引更多開發者依賴它的全棧解決方案，鞏固自己在 AI 基礎設施領域的地位;另一方面，也是在和 AWSBedrock、Azure Al Model Catalog 這些云服務巨頭競爭，靠靈活的本地化部署選項，爭奪企業 AI 市場份額。