天启集团
专注智能硬件研发创新,提供智慧场景解决方案
提供全面的服务器产品及高效的解决方案
思特森私有云电子消费类产品及服务

AIBOX 低功耗大模型主机

超高能效比!支持主流大模型私有化部署

AIBOX-3588S

大模型人工智能盒子

搭载 RK3588S 处理器

32GB LPDDR5 超大内存

支持大模型私有化部署

支持 8K 视频编解码

八核 AIOT 处理器 RK3588S

RK3588S 是 Rockchip 全新一代旗舰 AIoT 芯片,采用了 8nm LP 制程;搭载八核 64 位 CPU,主频高达 2.4GHz;集成 ARM Mali-G610 MP4 四核 GPU,内置 AI 加速器 NPU,可提供 6 TOPS 算力,性能强劲的 RK3588S 可为各类 AI 应用场景带来更优化的性能表现

AI 大模型私有化部署

NPU 算力可达 6 TOPS,支持 Transformer 架构下大规模参数模型的私有化部署,如 Gemma 系列、ChatGLM 系列、Qwen 系列、Phi 系列等大型语言模型;支持 RKNN 模型导入导出,还支持 TensorFlow、TensorFlow Lite、PyTorch、Caffe 等多种深度学习框架

支持 32GB LPDDR5 超大内存

LPDDR5 相比 LPDDR4 实现了更大的内存容量、更高的带宽、 更快的数据传输速率、更低的功耗、更先进的错误纠正码(ECC)技术, 可以满足大模型私有化部署对内存空间和响应速度的需求, 充分发挥硬件的协同作用,使得模型能够更高效地运行, 提升整体系统的性能和能效比

支持 8K 视频编解码

支持 8K@60fps H.265 / VP9 视频解码和 8K@30fps H.265 / H.264视频编码,支持同编同解,最高可实现 32 路 1080P@30fps 解码 和 16 路 1080P@30fps 编码;画面 8K 高清呈现,画质更细腻

全金属外壳,高效散热

配置工业级全金属外壳,铝合金结构导热,顶盖外壳侧面采用条幅格栅设计,保证外部空气流通,高效散热,保障在高温运行状态下的运算性能和稳定性。整机小巧精致,运行稳定,满足各种工业级的应用需求

完善的开发资料

支持 Linux OS,为产品研产提供安全稳定的系统环境;提供底板的参考设计和完整技术资料,用户可高效进行二次开发,快速打造自主可控的产品

广泛的应用场景

广泛适用于边缘计算、大模型私有化部署、算力服务、智能安防、智能家居、智能工业等领域

智能监控
AI教学
算力服务
边缘计算
大模型私有化部署
数据安全

产品参数

AIBOX-3576 AIBOX-3588 AIBOX-3588S

基本参数

SOC

Rockchip RK3576

Rockchip RK3588

Rockchip RK3588S

CPU

八核64位处理器(4×A72+4×A53), 主频最高 2.2GHz

八核64位处理器(4×Cortex-A76+4×Cortex-A55),主频最高 2.4GHz

GPU

G52 MC3@1GHz,支持 OpenGL ES 1.1/ 2.0/3.2,OpenCL 2.0,Vulkan 1.1, 内嵌高性能 2D 加速硬件

ARM Mali-G610 MP4四核GPU, 支持 OpenGL ES3.2/OpenCL 2.2/Vulkan1.1,450 GFLOPS

NPU

6 TOPS NPU, 支持 INT4/8/16/FP16/BF16/TF32 混合运算

6 TOPS NPU,支持INT4/INT8/INT16混合运算

ISP

内置1600万像素 ISP,支持低光降噪, 支持RGB-IR sensor,支持最高120dB HDR, AI-ISP提升低噪度的图像效果

集成48MP ISP,支持HDR和3DNR

编解码

解码:8K@30fps/ 4K@120fps:H.265/VP9/AVS2/AV1 4K@60fps:H.264/AVC 编码:4K@60fps:H.265/HEVC/H.264/AVC

解码:8K@60fps/ 4K@120fps H.265/VP9/AVS2 8K@30fps H.264 AVC/MVC 4K@60fps AV1 1080P@60fps MPEG-2/-1/VC-1/VP8 编码:8K@30fps H.265/H.264

解码:8K@60fps H.265/VP9/AVS2 8K@30fps H.264 AVC/MVC 4K@60fps AV1 1080P@60fps MPEG-2/-1/VC-1/VP8 编码:8K@30fps H.265/H.264

内存

LPDDR4(4GB/8GB/16GB 可选)

LPDDR4(4GB/8GB/16GB/32GB 可选)

LPDDR5(4GB/8GB/16GB/32GB 可选)

存储

eMMC(16GB/32GB/64GB/128GB/256GB 可选)、UFS2.0(仅AIBOX-3576可选)

扩展存储

1 × M.2(可扩展 SATA3.0/PCIe NVMe SSD,支持 2242/2260/2280 规格)、1 × TF Card

电源

DC 12V/2A(5.5 × 2.1mm)

功耗

典型功耗:1.2W(12V/100mA) 最大功耗:7.2W(12V/600mA) 休眠功耗:0.072W (12V/6mA)

典型功耗:2.64W(12V/220mA) 最大功耗:14.4W(12V/1200mA) 休眠功耗:0.18W(12V/15mA)

典型功耗:1.26W(12V/105mA) 最大功耗:13.2W(12V/1100mA) 休眠功耗:0.18W(12V/15mA)

系统

Linux

软件支持

・支持Transformer架构下超大规模参数模型的私有化部署,如Gemma系列、ChatGLM系列、Qwen系列、Phi系列等大型语言模型 ・支持CNN、RNN、LSTM等传统网络架构,支持RKNN模型导入导出,支持多种深度学习框架, 包括TensorFlow、TensorFlow Lite、PyTorch、Caffe、ONNX和Darknet,并支持自定义算子开发 ・支持Docker容器化管理技术

尺寸

93.4mm × 93.4mm × 50mm

重量

≈ 500g

环境

工作温度:-20℃~60℃ 存储温度:-20℃~70℃ 存储湿度: 10%~90%RH(无凝露)

接口参数

网络

2 × 千兆以太网(1000Mbps/RJ45)

1 × 千兆以太网(1000Mbps/RJ45)

视频输出

1 × HDMI2.1(4K@120fps)

1 × HDMI2.1(8K@60fps)

USB

2 × USB3.0(限流1A)、 1 × Type-C(固件烧录)

2 × USB3.0(限流1A)、 1 × Type-C(可作为固件烧录口,开机后设置为USB2.0 HOST)

按键

1 × 电源键、1 × MaskRom

其他接口

1 × Console(调试串口)