当前位置: 主页 > 网络 >   正文

美团开源满血DeepSeek量化版?造福老显卡_美团收

导读:美团技术团队近日宣布,对DeepSeekR1模型进行了INT8精度量化,使得该模型能够在老型号GPU如A100上进行部署。原生的DeepSeekR1模型权重采用FP8数据格式,这限制了其只能在英伟达的新型GPU上……

内容