k8s兼容昆仑芯p800

主机xpu-smi

K8S device

节点资源

Notebook


推理服务


镜像:ccr.ccs.tencentyun.com/cube-studio/xtrtllm_ubuntu_2004_x86_64_deepseek-v3:v20

挂载目录:kubeflow-user-workspace(pvc):/mnt,/mnt/model(hostpath):/workspace

/mnt/model内容在文件夹model中

启动命令:

source /home/pt201/bin/activate && export LD_LIBRARY_PATH=/usr/local/xpu/so:$LD_LIBRARY_PATH && bash /workspace/deepseek_server/run_server.sh /workspace/DeepSeek-R1-tokenizer /workspace/DeepSeek-R1-0528-BF16-engine r1

测试

相关推荐
百家方案1 分钟前
2026年AI+智慧景区全场景应用解决方案白皮书 - 全1648页下载
人工智能·智慧文旅·智慧景区
intcube2 分钟前
让数据说话,让决策有据——构建闭环的数据驱动运营体系
大数据·人工智能·全面预算管理·财务规划
甄心爱学习3 分钟前
【最优化】1-6章习题
人工智能·算法
code_pgf3 分钟前
基于transformer的clip和blip之间的关系、原理、方法实现和直观可视化
人工智能·深度学习·transformer
LoneEon3 分钟前
Kubernetes高可用集群部署教程
linux·docker·kubernetes
PD我是你的真爱粉3 分钟前
向量数据库原理与检索算法入门:ANN、HNSW、LSH、PQ 与相似度计算
数据库·人工智能·算法
蕤葳-8 分钟前
AI证书在面试中的价值分析
人工智能
SuperEugene15 分钟前
Python 异步 async/await:为什么 AI 框架大量使用?| 基础篇
开发语言·人工智能·python
QYR_1116 分钟前
预计2032年全球智能换电站市场销售额将突破62.88亿美元
人工智能·市场调研
我不是小upper18 分钟前
相关≠因果!机器学习中皮尔逊相关检验的完整流程
人工智能·算法·机器学习