全面的人工智能私有化部署

16TOPS算力AI处理器BM1688

采用 SOPHON 算能 AI 处理器 BM1688,拥有八核 ARM Cortex-A53,最高主频 1.6GHz,内建神经网络加速引擎 TPU,拥有 32T@INT4 峰值算力、
16T@INT8 峰值算力、4T@FP16 / BF16 算力、0.5T@FP32 算力,支持主流编程框架,可广泛应用于 AI 推理、计算机视觉等领域

多路视频 AI 处理性能

最高支持 16 路 H.265 / H.264 1080P 视频解码,10 路 H.265 / H.264 1080P 视频编码,支持 16 路 1080P 高清视频
全流程处理(解码+ AI 分析),满足视频流人脸检测、车牌识别、智慧城市等各类 AI 应用场景的需求

强大的网络通讯能力

支持双路1000Mbps以太网 ,高速稳定的网络通讯方式,满足不同应用场景需求

全金属外壳,高效散热

配置工业级全金属外壳,铝合金结构导热,顶盖外壳侧面采用条幅格栅设计,保证外部空气流通,高效散热,
保障在高温运行状态下的运算性能和稳定性

完善的开发资料

提供配套的源代码、教程、技术资料和开发工具,让开发变得更加简单方便

广泛的应用场景

广泛适用于智能监控、AI教学、算力服务、边缘计算、大模型私有化部署、数据安全和隐私保护等场景

智能监控
AI教学
算力服务
边缘计算
大模型私有化部署
数据安全

产品参数

规格参数
基本参数 SOC

SOPHON BM1688

集成高性能八核ARM A53,12nm工艺制程,主频高达2.3GHz

TPU

内建 SOPHGO 神经网络加速引擎 TPU,32T@INT4峰值算力、16T@INT8峰值算力、4T@FP16/BF16算力、0.5T@FP32算力

编解码

视频解码:H.264 / H.265 解码(最大性能:1920 * 1080@480FPS 或者 3840 * 2160 @120FPS)

视频编码:H.264 / H.265 编码(最大性能:1920 * 1080@300FPS 或者 3840 * 2160 @75 FPS)

图片编解码:支持 JPEG/MJPEG Baseline 编解码(JPEG 编解码最大分辨率为 1080P@480 FPS)

内存

8GB LPDDR4(4GB/8GB/16GB 可选)

存储

32GB eMMC(32GB/64GB/128GB/256GB 可选)

扩展存储

1 * M.2(可扩展PCIe NVMe SSD(默认支持)/ SATA SSD(更新软件后支持),

支持 2242/2260/2280 规格)(主机内部)、1*TF Card

电源

DC 12V/3A(DC 5.5*2.1mm)

功耗

典型功耗:7.2W(12V/600mA),最大功耗:14.4W(12V/1200mA)

系统

Linux

软件支持

・ 支持Transformer架构下超大规模参数模型的私有化部署,

如Gemma-2B、LlaMa2-7B、ChatGLM3-6B、Qwen1.5-1.8B等大型语言模型

・ 支持CNN、RNN、LSTM等传统网络架构,支持多种深度学习框架,

包括TensorFlow、PyTorch、MXNet、PaddlePaddle、ONNX和Darknet,并支持自定义算子开发

・ 支持Docker容器化管理技术

尺寸

93.4mm * 93.4mm * 50 mm

重量

≈ 500g

环境

工作温度:-20℃~60℃,存储温度:-20℃~70℃,存储湿度:10%~90%RH(无凝露)

接口参数 网络

2*1000Mbps以太网

视频输出

1*HDMI2.0(4K@60fps)

USB

2*USB3.0(限流1A)

其他接口

1*Type-C(仅支持做 USB2.0 设备端)、1*Console (调试串口)、1*电源键、1*Recovery