天启集团
专注智能硬件研发创新,提供智慧场景解决方案
提供全面的服务器产品及高效的解决方案
思特森私有云电子消费类产品及服务

AIBOX 低功耗大模型主机

超高能效比!支持主流大模型私有化部署

把大模型“装”进小盒子

—— AIBOX-3576 低功耗大模型盒子

超高能效比!支持主流大模型私有化部署,
把 AI 的能力私有化,一个盒子就能满足个性化的 AI 部署!

支持大模型私有化部署

主机内置 ARM Mali G52 MC3 GPU,算力可达 6 TOPS;能够进行更智能的数据处理、语音识别、图像分析,满足大多数终端设备边缘计算 AI 应用需求

八核 64 位 AIOT 处理器 RK3576

新一代八核 64 位高性能 AIOT 处理器 RK3576,采用大小核构架(4×A72 +4×A53),先进工艺制程,主频高达 2.2GHz,为高性能计算和
多任务处理提供了强大支持。搭载 Mali-G52 MC3 GPU,145G FLOPS 的 GPU 可以支持有效的异构计算,满足图形密集型应用的需求

4K@120 fps 高帧率视频解码

支持 8K@30fps / 4K@120fps 解码(H.265 / HEVC、VP9、AVS2、AV1 )和
4K@60fps 解码(H.264 / AVC),4K@60fps 编码(H.265 / HEVC、H.264 / AVC)

强大的网络通讯能力

支持双路 1000Mbps 以太网 ,高速稳定的网络通讯方式,满足不同应用场景需求

全金属外壳,高效散热

配置工业级全金属外壳,铝合金结构导热,顶盖外壳侧面采用条幅格栅设计,
保证外部空气流通,高效散热,保障在高温运行状态下的运算性能和稳定性

完善的开发资料

支持 Linux OS,为产品研产提供安全稳定的系统环境。提供配套的源代码、教程、技术资料和开发工具,让开发变得更加简单方便

广泛的应用场景

广泛适用于智能监控、AI教学、算力服务、边缘计算、大模型私有化部署、数据安全和隐私保护等场景

智能监控
AI教学
算力服务
边缘计算
大模型私有化部署
数据安全

产品参数

AIBOX-3576 AIBOX-3588 AIBOX-3588S

基本参数

SOC

Rockchip RK3576

Rockchip RK3588

Rockchip RK3588S

CPU

八核64位处理器(4×A72+4×A53), 主频最高 2.2GHz

八核64位处理器(4×Cortex-A76+4×Cortex-A55),主频最高 2.4GHz

GPU

G52 MC3@1GHz,支持 OpenGL ES 1.1/ 2.0/3.2,OpenCL 2.0,Vulkan 1.1, 内嵌高性能 2D 加速硬件

ARM Mali-G610 MP4四核GPU, 支持 OpenGL ES3.2/OpenCL 2.2/Vulkan1.1,450 GFLOPS

NPU

6 TOPS NPU, 支持 INT4/8/16/FP16/BF16/TF32 混合运算

6 TOPS NPU,支持INT4/INT8/INT16混合运算

ISP

内置1600万像素 ISP,支持低光降噪, 支持RGB-IR sensor,支持最高120dB HDR, AI-ISP提升低噪度的图像效果

集成48MP ISP,支持HDR和3DNR

编解码

解码:8K@30fps/ 4K@120fps:H.265/VP9/AVS2/AV1 4K@60fps:H.264/AVC 编码:4K@60fps:H.265/HEVC/H.264/AVC

解码:8K@60fps/ 4K@120fps H.265/VP9/AVS2 8K@30fps H.264 AVC/MVC 4K@60fps AV1 1080P@60fps MPEG-2/-1/VC-1/VP8 编码:8K@30fps H.265/H.264

解码:8K@60fps H.265/VP9/AVS2 8K@30fps H.264 AVC/MVC 4K@60fps AV1 1080P@60fps MPEG-2/-1/VC-1/VP8 编码:8K@30fps H.265/H.264

内存

LPDDR4(4GB/8GB/16GB 可选)

LPDDR4(4GB/8GB/16GB/32GB 可选)

LPDDR5(4GB/8GB/16GB/32GB 可选)

存储

eMMC(16GB/32GB/64GB/128GB/256GB 可选)、UFS2.0(仅AIBOX-3576可选)

扩展存储

1 × M.2(可扩展 SATA3.0/PCIe NVMe SSD,支持 2242/2260/2280 规格)、1 × TF Card

电源

DC 12V/2A(5.5 × 2.1mm)

功耗

典型功耗:1.2W(12V/100mA) 最大功耗:7.2W(12V/600mA) 休眠功耗:0.072W (12V/6mA)

典型功耗:2.64W(12V/220mA) 最大功耗:14.4W(12V/1200mA) 休眠功耗:0.18W(12V/15mA)

典型功耗:1.26W(12V/105mA) 最大功耗:13.2W(12V/1100mA) 休眠功耗:0.18W(12V/15mA)

系统

Linux

软件支持

・支持Transformer架构下超大规模参数模型的私有化部署,如Gemma系列、ChatGLM系列、Qwen系列、Phi系列等大型语言模型 ・支持CNN、RNN、LSTM等传统网络架构,支持RKNN模型导入导出,支持多种深度学习框架, 包括TensorFlow、TensorFlow Lite、PyTorch、Caffe、ONNX和Darknet,并支持自定义算子开发 ・支持Docker容器化管理技术

尺寸

93.4mm × 93.4mm × 50mm

重量

≈ 500g

环境

工作温度:-20℃~60℃ 存储温度:-20℃~70℃ 存储湿度: 10%~90%RH(无凝露)

接口参数

网络

2 × 千兆以太网(1000Mbps/RJ45)

1 × 千兆以太网(1000Mbps/RJ45)

视频输出

1 × HDMI2.1(4K@120fps)

1 × HDMI2.1(8K@60fps)

USB

2 × USB3.0(限流1A)、 1 × Type-C(固件烧录)

2 × USB3.0(限流1A)、 1 × Type-C(可作为固件烧录口,开机后设置为USB2.0 HOST)

按键

1 × 电源键、1 × MaskRom

其他接口

1 × Console(调试串口)