天启集团
智能硬件业务网站
专注智能硬件研发创新，提供智慧场景解决方案
服务器业务网站
提供全面的服务器产品及高效的解决方案
消费类业务网站
思特森私有云电子消费类产品及服务
< 返回新闻资讯列表

AIBOX 已全面支持 DeepSeek-R1

2025-02-10 09:44

国产 AI 大模型 DeepSeek 以出色的性价比和高效的模型技术，迅速成为全球 AI 关注的焦点。Firefly 开源团队率先实现 AIBOX 系列产品对 DeepSeek-R1 的全面适配。


1739152031964162.png



R1 模型性能数据

DeepSeek-R1 在后训练阶段大规模使用了强化学习技术，在仅有极少标注数据的情况下，极大提升了模型推理能力，目前基于开源的 R1 模型具有 1.5B-70B 可选，这些蒸馏模型更合适进行本地部署在端侧使用，用于各行各业的项目落地。


1739152136616066.png



AIBOX 实机演示

Firefly 开源团队对 DeepSeek-R1 系列的蒸馏模型进行移植，完成 AIBOX 系列产品对 DeepSeek-R1 的全面适配，以下是实机演示：


通过视频可以看出 DeepSeek-R1-Distill-Qwen-1.5B 在深度思考阶段思路清晰，并给出准确回答。同时，从硬件性能方面看，AIBOX在推理阶段高达到 29.187 token/s，能够实现准确、快速的 AI 对话。



模型实测情况

以下是 AIBOX 产品的实测结果：


实测+1688.png



DeepSeek-R1 产品体验

AIBOX 系列产品具备高性能、低功耗、环境适应性强等特点，算力覆盖 6-157 TOPS，通过搭配多样化深度学习算法，为多个智慧行业进行数字化赋能，AIBOX 全系列产品已在 Firefly 官方平台上线，立即体验属于自己的本地化 DeepSeek！


1739152249671633.png


↓点击前往官方店铺选购↓

1739152620782432.png



如有业务需求，请联系我们

📞：4001-511-533

📭：sales@t-firefly.com




热门新闻