DeepSeek
2 則報導,新到舊。
- vLLM、SGLang 宣稱效能追平 DeepSeek DeepInfer,開源推論差距縮小
先講結論。 想自架推論的人可以參考,但兩者都是拿 DeepInfer 公布的圖表對照自家實測,不是在相同硬體與設定下比較。
- DeepSeek V4.1-Flash 開放權重,MIT 授權、1M context 可自行部署
先講結論。 想自架開源模型的人可以注意:763B 參數、1M token context,可自行下載部署。
2 則報導,新到舊。
先講結論。 想自架推論的人可以參考,但兩者都是拿 DeepInfer 公布的圖表對照自家實測,不是在相同硬體與設定下比較。
先講結論。 想自架開源模型的人可以注意:763B 參數、1M token context,可自行下載部署。