思锐智慧科技ASG-558 是一个在边缘设备上运行大型语言模型(LLM)的系统,软件架构搭载ShareQA ,支持企业报告撰写、自动摘要生成、自动关键点生成、QA 客服、AI 会议纪要/摘要等多种生成式 AI 功能。
硬件规格
CPU:Intel i5-14600
RAM:128GB DDR5
NPU BFLOAT16 : 32 TFLOPS
NPU INT8 : 206 TOPS
NPU Memory: 64GB LPDDR5
NPU TDP : 45W
AMD AI PRO 9700 INT4: 1531 TOPS
AMD AI PRO 9700 Memory: 32GB GDDR6
AMD AI PRO 9700 TDP: 300W
SLM 模型支持
Llama 2 7B
Llama 3 8B
Mistral 7B
Breeze 7B
Mistral Nemo 12B
Mistral 8B
Mistral 24B
Gemma 3 4B
产品规格
外壳:47.8cm*23cm*49.3cm
保固
一年硬件保固
一年软件保固