ShareGuru SLM 管理平台 是一種經濟高效的系統,可以在邊緣設備上運行小型語言模型(SLM)。ShareGuru SLM管理平台搭載 ShareGuru QA AI 管理平臺,支援企業報告撰寫、自動摘要生成、自動關鍵點生成、QA 客服、AI 會議紀要/摘要等多種生成式 AI 功能。
硬體規格
中央處理器:AMD CPU Ryzen5/7/9
記憶體:64GB RAM
無線網路介面:WiFi 6E
有線網路介面:Gigabit Ethernet RJ45
N3000 DM2 module NPU BFLOAT16:30 TFLOPS
N3000 DM2 module NPU INT8:160 TOPS
N3000 DM2 module NPUMemory:64GB LPDDR5
N3000 DM2 module NPU TDP:25W
RTX5070 INT8:988 TOPS
RTX5070 Memory:12GB
RTX5070 TDP:250W
支援SLM Model規格
LLama 2 7B
LLama 3 8B
Mistral 7B
Breeze 7B
Mistral Nemo 12B
Ministral 8B
產品規格
外殼:47.8cm*23cm*49.3cm(暫定)
配件
電源供應器
輸入規格:100~240V(50/60Hz)
輸出規格:1000W
保固
一年硬體保固
一年軟體保固