k8s兼容昆仑芯p800

主机xpu-smi

K8S device

节点资源

Notebook


推理服务


镜像:ccr.ccs.tencentyun.com/cube-studio/xtrtllm_ubuntu_2004_x86_64_deepseek-v3:v20

挂载目录:kubeflow-user-workspace(pvc):/mnt,/mnt/model(hostpath):/workspace

/mnt/model内容在文件夹model中

启动命令:

source /home/pt201/bin/activate && export LD_LIBRARY_PATH=/usr/local/xpu/so:$LD_LIBRARY_PATH && bash /workspace/deepseek_server/run_server.sh /workspace/DeepSeek-R1-tokenizer /workspace/DeepSeek-R1-0528-BF16-engine r1

测试

相关推荐
ai_top_trends2 小时前
AI 生成 PPT 哪个好用?2026 年主流工具实测对比
人工智能·python
人工智能AI技术2 小时前
Trae实战!5分钟生成微信小程序完整框架
人工智能
LDG_AGI2 小时前
【机器学习】深度学习推荐系统(二十八):X 推荐算法listwiseRescoring(同刷多样性降权)机制详解
人工智能·分布式·深度学习·算法·机器学习·推荐算法
程序猿炎义2 小时前
【Easy-VectorDB】Faiss入门与环境搭建笔记
人工智能·faiss
学术小白人2 小时前
2026 年人工智能与社交网络系统国际学术会议暨智能与网络安全研讨圆满落幕
大数据·人工智能·科技·物联网·机器学习
白日做梦Q2 小时前
GAN入门到精通:从DCGAN到StyleGAN3
人工智能·深度学习·计算机视觉
格林威2 小时前
Baumer相机最新SDK开发_下载_封装
人工智能·数码相机·opencv·机器学习·计算机视觉·视觉检测·halcon
testpassportcn2 小时前
AWS Certified AI Practitioner(AIF-C01)認證介紹
人工智能·云计算·aws
sufu10652 小时前
保姆级喂饭教程:什么是Skills?如何用Skills?
人工智能