摘要:美团技术团队近日宣布,对DeepSeekR1模型进行了INT8精度量化,使得该模型能够在老型号GPU如A100上进行部署。原生的DeepSeekR1模型权重采用FP8数据格式,这限制了其只能在英伟达的新型GPU上……
摘要:美团技术团队近日宣布,对DeepSeekR1模型进行了INT8精度量化,使得该模型能够在老型号GPU如A100上进行部署。原生的DeepSeekR1模型权重采用FP8数据格式,这限制了其只能在英伟达的新型GPU上……
摘要:美团技术团队近日宣布,对DeepSeekR1模型进行了INT8精度量化,使得该模型能够在老型号GPU如A100上进行部署。原生的DeepSeekR1模型权重采用FP8数据格式,这限制了其只能在英伟达的新型GPU上……
用微信“扫一扫”