技术栈
星瑞o6
农夫山泉2号
1 个月前
cpu
·
llama
·
llama.cpp
·
星瑞o6
【“星瑞” O6 评测】 — CPU llama.cpp不同优化速度对比
随着大模型应用场景的不断拓展，arm cpu 凭借其独特优势在大模型推理领域的重要性日益凸显。它在性能、功耗、架构适配等多方面发挥关键作用，推动大模型在不同场景落地
农夫山泉2号
2 个月前
星瑞o6
·
周易npu
【“星瑞” O6 评测】—NPU 部署 face parser 模型
瑞莎星睿 O6 (Radxa Orion O6) 拥有高达 28.8TOPs NPU (Neural Processing Unit) 算力，支持 INT4 / INT8 / INT16 / FP16 / BF16 和 TF32 类型的加速。这里通过通过官方的工具链进行FaceParsingBiSeNet的部署