天启集团
专注智能硬件研发创新,提供智慧场景解决方案
提供全面的服务器产品及高效的解决方案
思特森私有云电子消费类产品及服务

CSC2-N48R3588S(M50)

可扩展 160 TOPS 后摩 M50 加速卡

· 48 个高性能分布式计算节点

· 48GB 超高带宽 LPDDR5 大内存

· 大模型端侧私有化部署

· 多种软件流畅运行

· 一体化网络管控,高速稳定可靠

· 配套 BMC 智能管理系统

· 触摸显示屏,实时显示设备信息

· 高整合服务器,有效降低成本

后摩 M50

35B 大模型

aBMC

CSC2-N48R3588S(M50) 算力服务器

服务器采用标准 2U 机架设计,集成 48 个 RK3588S 计算节点与 48 路 M.2 接口,可选配 1-48 块后摩漫界 M50 加速卡,单卡算力 160 TOPS (INT8),最高搭载 48GB LPDDR5 内存,带宽达 153.6GB/s,可流畅运行 35B 以内大模型,推理速度 10-35 Tokens/s,支持主流大语言模型(Llama、Qwen)、视觉大模型(SAM、ViT)、图像生成模型(Flux、Stable Diffusion)等大模型的端侧私有化部署,同时配备 4 个万兆网口,满足高速数据传输需求

48 个高性能分布式计算节点

内置 48 个高性能分布式计算节点:Rockchip RK3588S,最高主频 2.4GHz,算力最高 6 TOPS (INT8),节点数量可选配

48GB 超高带宽 LPDDR5 内存

后摩 M50 加速卡最高支持 48GB LPDDR5内存,内存带宽可达 153.6 GB/s,数据吞吐能力强劲

大模型端侧私有化部署

支持主流大语言模型(Llama、Qwen等)、视觉大模型(SAM、ViT等)、图像生成模型(Flux、Stable Diffusion等)等大模型端侧私有化部署

多种软件流畅运行

可流畅运行多种软件,如数据库 MySQL、Oracle、Redis,网页服务 Nginx、Apache,虚拟化工具 KVM,邮件服务 Postfix,还有数据分析 Hadoop、Spark 等,多软件并行时依旧稳定高效

一体化网络管控,高速稳定

拥有 4 个万兆网口(SFP+)、1 个 MGMT(BMC管理网络接口),支持 BMC 独立带外运维管理,内置三层路由交换、VLAN 划分、QoS 流量管控功能,有效优化网络传输效率,强化整机网络安全防护能力

配套 BMC 智能管理系统

配套 BMC 智能管理系统,轻松完成实时监控、软件配置、硬件配置、故障排除、异常告警、系统升级、远程运维,并可提供二次开发

触摸显示屏,实时显示设备信息

机身配备触控显示屏,可实时展示机箱温度、运行能效、风扇转速、网络 IP、日期时间等关键运行数据,便于用户实时掌握设备状态,运维管理更便捷高效

高整合服务器,有效降低成本

服务器高度整合计算单元、存储、通用串行总线、网络控制器、电源控制器和传感器于一体,提供 SDK 一站式深度学习开发工具包、底层驱动环境、编译器、推理部署工具等一系列软件工具,减少用户的采购、开发和运营成本
可扩展 160 TOPS 后摩 M50 加速卡

服务器内置 48 个 M.2 接口,可按需扩展 1-48 个后摩漫界 M50 加速卡,单个加速卡算力最高 160 TOPS (INT8)、100 TFLOPS (bFP16) 算力,可流畅运行 35B 以内大模型,推理速度 10-35 Tokens/s

应用场景

广泛适用于智算服务器、边缘计算、大模型本地化、智慧城市、智慧医疗、智慧工业、智能安防等产品和领域

智算服务器
智算服务器
边缘计算
边缘计算
大模型私有化部署
大模型私有化部署
智慧城市
智慧城市
智慧医疗
智慧医疗
智慧工业
智慧工业
接口图
规格参数

CSC2-N48R3588S(M50)

技术规格

服务器形态

2U机架式算力服务器

构架

ARM 架构

计算节点

48个分布式计算节点(RK3588S):八核64位处理器,最高主频2.4GHz

AI加速卡扩展

48 × 后摩漫界 M50 模组(48GB LPDDR5,160TOPS(INT8)、100TFLOPS(bFP16) 算力,153.6GB/S 超高带宽,可流畅运行 35B 以内的大模型,模型性能 10~35Token/s@35B)

控制节点

1个控制节点(RK3588):八核64位处理器,最高主频2.4GHz

编解码

视频编码:1×8K@30fps/16×1080P@30fps H.264 视频解码:8K@60fps/4K@120fps VP9/AVS2、8K@30fps H.264/AVC/MVC、30×1080P@30fps H.264

内存

16GB LPDDR5(4GB/8GB/16GB/32GB)× 48(计算节点数)

存储

256GB eMMC(16GB/32GB/64GB/128GB/256GB)× 48(计算节点数)

电源

2 个 AC 冗余电源(支持热插拔)

显示屏

1 个触摸显示屏,可实时显示机箱温度、使用能效、风扇转速、网络IP、日期、时间等设备信息

风扇模组

12 个高速散热风扇

BMC

集成基于 Web 管理界面的 BMC 管理系统,支持 Redfish、VNC、NTP、监控高级及虚拟媒体,BMC 管理系统可进行二次开发

物理规格

尺寸

标准的 2U 机架式服务器:724.0mm × 430.0mm × 88.8mm

安装要求

IEC 297标准的通用机柜安装:宽19英寸、深800mm及以上 可伸缩滑道安装:机柜前后方孔条的距离范围为543.5mm~848.5mm

满配重量

服务器净重:23.1kg,带包装总重:25.3kg

环境

工作温度:0ºC ~ 35ºC,存储温度:-40ºC ~ 60ºC,工作湿度:5% ~ 80%RH(无凝露)

接口参数

网络

4 × 10Gbps万兆网(SFP+)、1 × 千兆以太网(RJ45,MGMT用作BMC管理网络)

Console

1 × Console(RJ45,BMC调试串口,波特率 115200)

显示

1 × HDMI(最高分辨率1080P,BMC管理显示)

USB

2 × USB3.0(下层USB为USB3.0 OTG,可使用U盘对BMC进行OTG升级)

按键

1 × 复位键、1 × 电源键、1 × 重启BMC键

方案定制

Firefly 团队凭借二十余载的产品设计、研发和生产的经验,为您提供硬件定制、软件定制、整机定制、生产代工等服务