40 TOPS AI 加速器
AIM-B2
• 40 TOPS,支持 LLaMA 2.0 和 YOLOv8
• 板对板连接器 (B2B),4 通道 PCIe Gen4 高速接口
• 支持 AI 框架:TensorFlow、Torchscript、PyTorch&ONNX、Caffe、Mxnet
• 处理器(已测试): 恩智浦、英伟达、高通、赛灵思
• 支持新一代人工智能和变压器模型
• 可在边缘设备上实现实时、低延迟和高效人工智能推理
• 为可扩展的人工智能解决方案提供多芯片支持
• 稳定扩散 1.4 ~10s(20 次迭代)
• ResNet50-2ms 延迟
• 板对板连接器 (B2B),4 通道 PCIe Gen4 高速接口
• 支持 AI 框架:TensorFlow、Torchscript、PyTorch&ONNX、Caffe、Mxnet
• 处理器(已测试): 恩智浦、英伟达、高通、赛灵思
• 支持新一代人工智能和变压器模型
• 可在边缘设备上实现实时、低延迟和高效人工智能推理
• 为可扩展的人工智能解决方案提供多芯片支持
• 稳定扩散 1.4 ~10s(20 次迭代)
• ResNet50-2ms 延迟
AI算力 | 40 TOPS,支持 llama2.0 和 Yolov8 |
处理器 | 恩智浦、英伟达、高通、赛灵思 |
支持的框架 | TensorFlow、Torchscript、PyTorch&ONNX、Caffe、Mxnet |
主机接口 | 板对板连接器(B2B,4 通道 PCIE Gen4 高速接口) |
内存 | 最高 16GB LPDDR4(X) |
OS | Linux, Windows |
功率 | 12W |
环境温度 | 0℃~70℃ |
尺寸 | 40*55mm |