常见docker使用命令

#搭建镜像

"""

sudo docker build -t es_refresh:V1.20230303 .

"""

#启动容器

"""

docker run -d --name=para_classify -v /etc/localtime:/etc/localtime -v /data/chenhw/multi_label_classification:/edb2vec -p 8066:8066 --gpus '"device=0"' --ipc=host --ulimit memlock=-1 --ulimit stack=67108864 edb_retrieval:V1

"""

#--net=host

#输出docker

"""

sudo docker save minutes_gen:V1.20230317 > minutes_gen.tar

"""

#查看镜像和容器

"""

sudo docker images

sudo docker ps

"""

#进入docker容器

"""

sudo docker exec -it 12e39d7323e2 /bin/bash

"""

#查看docker日志

"""

sudo docker logs --tail=1000 12e39d7323e2

"""

#导入镜像

"""

docker load -i qa-docker.tar

"""

#测试

"""

curl --location 'http://0.0.0.0:18001/v1/chat/completions'

--header 'Content-Type: application/json'

--data '{

"model":"llama",

"messages": [

{

"role": "user",

"content": "你是由谁训练的"

}

],

"temperature":0.7,

"stream": false

}'

"""

"""

curl --location 'http://127.0.0.1:18001/v1/chat/completions'

--header 'Content-Type: application/json'

--data '{

"model":"gildata-llama2-13b",

"messages": [

{

"role": "user",

"content": "你是由谁训练的"

}

],

"temperature":0.7,

"stream": false

}'

"""

"""

curl --location 'http://0.0.0.0:8001/v1/chat/completions' --header 'Content-Type: application/json' --data '{

"model":"lightgpt-70b",

"messages": [

{

"role": "user",

"content": "你是由谁训练的"

}

],

"temperature":0.7,

"stream": false

}'

"""

相关推荐
勤奋的凯尔森同学2 小时前
webmin配置终端显示样式,模仿UbuntuDesktop终端
linux·运维·服务器·ubuntu·webmin
Bright16684 小时前
centos9安装k8s集群
云原生·容器·kubernetes
!!!5256 小时前
华为云镜像加速器
docker·容器·华为云
技术小齐6 小时前
网络运维学习笔记 016网工初级(HCIA-Datacom与CCNA-EI)PPP点对点协议和PPPoE以太网上的点对点协议(此处只讲华为)
运维·网络·学习
ITPUB-微风6 小时前
Service Mesh在爱奇艺的落地实践:架构、运维与扩展
运维·架构·service_mesh
落幕6 小时前
C语言-进程
linux·运维·服务器
chenbin5207 小时前
Jenkins 自动构建Job
运维·jenkins
java 凯7 小时前
Jenkins插件管理切换国内源地址
运维·jenkins
xidianjiapei0017 小时前
Kubernetes的Ingress 资源是什么?
云原生·容器·kubernetes
AI服务老曹7 小时前
运用先进的智能算法和优化模型,进行科学合理调度的智慧园区开源了
运维·人工智能·安全·开源·音视频