40 TOPS AI 加速器

AIM-B2
• 40 TOPS,支持 LLaMA 2.0 和 YOLOv8
• 板对板连接器 (B2B),4 通道 PCIe Gen4 高速接口
• 支持 AI 框架:TensorFlow、Torchscript、PyTorch&ONNX、Caffe、Mxnet
• 处理器(已测试): 恩智浦、英伟达、高通、赛灵思
• 支持新一代人工智能和变压器模型
• 可在边缘设备上实现实时、低延迟和高效人工智能推理
• 为可扩展的人工智能解决方案提供多芯片支持
• 稳定扩散 1.4 ~10s(20 次迭代)
• ResNet50-2ms 延迟
AI算力 40 TOPS,支持 llama2.0 和 Yolov8
处理器 恩智浦、英伟达、高通、赛灵思
支持的框架 TensorFlow、Torchscript、PyTorch&ONNX、Caffe、Mxnet
主机接口 板对板连接器(B2B,4 通道 PCIE Gen4 高速接口)
内存 最高 16GB LPDDR4(X)
OS Linux, Windows
功率 12W
环境温度 0℃~70℃
尺寸 40*55mm