超高能效比!支持主流大模型私有化部署,
把 AI 的能力私有化,一个盒子就能满足个性化的 AI 部署!
支持大模型私有化部署
主机内置 ARM Mali G52 MC3 GPU,算力可达 6 TOPS;能够进行更智能的数据处理、语音识别、图像分析,满足大多数终端设备边缘计算 AI 应用需求
新一代八核 64 位高性能 AIOT 处理器 RK3576,采用大小核构架(4×A72 +4×A53),先进工艺制程,主频高达 2.2GHz,为高性能计算和
多任务处理提供了强大支持。搭载 Mali-G52 MC3 GPU,145G FLOPS 的 GPU 可以支持有效的异构计算,满足图形密集型应用的需求
支持 8K@30fps / 4K@120fps 解码(H.265 / HEVC、VP9、AVS2、AV1 )和
4K@60fps 解码(H.264 / AVC),4K@60fps 编码(H.265 / HEVC、H.264 / AVC)
支持双路 1000Mbps 以太网 ,高速稳定的网络通讯方式,满足不同应用场景需求
配置工业级全金属外壳,铝合金结构导热,顶盖外壳侧面采用条幅格栅设计,
保证外部空气流通,高效散热,保障在高温运行状态下的运算性能和稳定性
支持 Linux OS,为产品研产提供安全稳定的系统环境。提供配套的源代码、教程、技术资料和开发工具,让开发变得更加简单方便
广泛适用于智能监控、AI教学、算力服务、边缘计算、大模型私有化部署、数据安全和隐私保护等场景
AIBOX-3576 | AIBOX-3588 | AIBOX-3588S | |||
基本参数 |
SOC |
Rockchip RK3576 |
Rockchip RK3588 |
Rockchip RK3588S |
|
CPU |
八核64位处理器(4×A72+4×A53), 主频最高 2.2GHz |
八核64位处理器(4×Cortex-A76+4×Cortex-A55),主频最高 2.4GHz |
|||
GPU |
G52 MC3@1GHz,支持 OpenGL ES 1.1/ 2.0/3.2,OpenCL 2.0,Vulkan 1.1, 内嵌高性能 2D 加速硬件 |
ARM Mali-G610 MP4四核GPU, 支持 OpenGL ES3.2/OpenCL 2.2/Vulkan1.1,450 GFLOPS |
|||
NPU |
6 TOPS NPU, 支持 INT4/8/16/FP16/BF16/TF32 混合运算 |
6 TOPS NPU,支持INT4/INT8/INT16混合运算 |
|||
ISP |
内置1600万像素 ISP,支持低光降噪, 支持RGB-IR sensor,支持最高120dB HDR, AI-ISP提升低噪度的图像效果 |
集成48MP ISP,支持HDR和3DNR |
|||
编解码 |
解码:8K@30fps/ 4K@120fps:H.265/VP9/AVS2/AV1 4K@60fps:H.264/AVC 编码:4K@60fps:H.265/HEVC/H.264/AVC |
解码:8K@60fps/ 4K@120fps H.265/VP9/AVS2 8K@30fps H.264 AVC/MVC 4K@60fps AV1 1080P@60fps MPEG-2/-1/VC-1/VP8 编码:8K@30fps H.265/H.264 |
解码:8K@60fps H.265/VP9/AVS2 8K@30fps H.264 AVC/MVC 4K@60fps AV1 1080P@60fps MPEG-2/-1/VC-1/VP8 编码:8K@30fps H.265/H.264 |
||
内存 |
LPDDR4(4GB/8GB/16GB 可选) |
LPDDR4(4GB/8GB/16GB/32GB 可选) |
LPDDR5(4GB/8GB/16GB/32GB 可选) |
||
存储 |
eMMC(16GB/32GB/64GB/128GB/256GB 可选)、UFS2.0(仅AIBOX-3576可选) |
||||
扩展存储 |
1 × M.2(可扩展 SATA3.0/PCIe NVMe SSD,支持 2242/2260/2280 规格)、1 × TF Card |
||||
电源 |
DC 12V/2A(5.5 × 2.1mm) |
||||
功耗 |
典型功耗:1.2W(12V/100mA) 最大功耗:7.2W(12V/600mA) 休眠功耗:0.072W (12V/6mA) |
典型功耗:2.64W(12V/220mA) 最大功耗:14.4W(12V/1200mA) 休眠功耗:0.18W(12V/15mA) |
典型功耗:1.26W(12V/105mA) 最大功耗:13.2W(12V/1100mA) 休眠功耗:0.18W(12V/15mA) |
||
系统 |
Linux |
||||
软件支持 |
・支持Transformer架构下超大规模参数模型的私有化部署,如Gemma系列、ChatGLM系列、Qwen系列、Phi系列等大型语言模型 ・支持CNN、RNN、LSTM等传统网络架构,支持RKNN模型导入导出,支持多种深度学习框架, 包括TensorFlow、TensorFlow Lite、PyTorch、Caffe、ONNX和Darknet,并支持自定义算子开发 ・支持Docker容器化管理技术 |
||||
尺寸 |
93.4mm × 93.4mm × 50mm |
||||
重量 |
≈ 500g |
||||
环境 |
工作温度:-20℃~60℃ 存储温度:-20℃~70℃ 存储湿度: 10%~90%RH(无凝露) |
||||
接口参数 |
网络 |
2 × 千兆以太网(1000Mbps/RJ45) |
1 × 千兆以太网(1000Mbps/RJ45) |
||
视频输出 |
1 × HDMI2.1(4K@120fps) |
1 × HDMI2.1(8K@60fps) |
|||
USB |
2 × USB3.0(限流1A)、 1 × Type-C(固件烧录) |
2 × USB3.0(限流1A)、 1 × Type-C(可作为固件烧录口,开机后设置为USB2.0 HOST) |
|||
按键 |
1 × 电源键、1 × MaskRom |
||||
其他接口 |
1 × Console(调试串口) |