天启集团
专注智能硬件研发创新,提供智慧场景解决方案
提供全面的服务器产品及高效的解决方案
思特森私有云电子消费类产品及服务

AIBOX 已全面支持 DeepSeek-R1

2025-02-10 09:44

国产 AI 大模型 DeepSeek 以出色的性价比和高效的模型技术,迅速成为全球 AI 关注的焦点。Firefly 开源团队率先实现 AIBOX 系列产品对 DeepSeek-R1 的全面适配。


1739152031964162.png



R1 模型性能数据

DeepSeek-R1 在后训练阶段大规模使用了强化学习技术,在仅有极少标注数据的情况下,极大提升了模型推理能力,目前基于开源的 R1 模型具有 1.5B-70B 可选,这些蒸馏模型更合适进行本地部署在端侧使用,用于各行各业的项目落地。


1739152136616066.png



AIBOX 实机演示

Firefly 开源团队对 DeepSeek-R1 系列的蒸馏模型进行移植,完成 AIBOX 系列产品对 DeepSeek-R1 的全面适配,以下是实机演示:


通过视频可以看出 DeepSeek-R1-Distill-Qwen-1.5B 在深度思考阶段思路清晰,并给出准确回答。同时,从硬件性能方面看,AIBOX在推理阶段高达到 29.187 token/s,能够实现准确、快速的 AI 对话。



模型实测情况

以下是 AIBOX 产品的实测结果:


实测+1688.png



DeepSeek-R1 产品体验

AIBOX 系列产品具备高性能、低功耗、环境适应性强等特点,算力覆盖 6-157 TOPS,通过搭配多样化深度学习算法,为多个智慧行业进行数字化赋能,AIBOX 全系列产品已在 Firefly 官方平台上线,立即体验属于自己的本地化 DeepSeek!


1739152249671633.png


点击前往官方店铺选购

1739152620782432.png



如有业务需求,请联系我们

📞:4001-511-533

📭:sales@t-firefly.com




热门新闻