首先git clone这个仓库,但是好像不太行,就直接下载下来吧
创个容器弄,容器里需要conda gpu
镜像的话 在dockerhub找到了一个:docker pull vkashyap10/llava-next
下载在了
|------------------------|----------|
| ssh [email protected] | amos@123 |
这个机器上。等会看看怎么传到rd调研用的机器上。
docker save -o llava-next.tar vkashyap10/llava-next
scp llava-next.tar [email protected]:/ssd2/lixiang/rs/dockerimage
docker load -i /ssd2/lixiang/rs/dockerimage/llava-next.tar
##ok scp用不了 那就用bos吧 上传和下载的命令示例如下
bcecmd bos cp text.txt bos:/mybucket/test.txt
bcecmd bos cp bos:/mybucket/test.txt text.txt
bcecmd bos cp llava-next.tar bos:/aipe-easyedge-model-zoo/tmp/llava-next.tar
bcecmd bos cp bos:/aipe-easyedge-model-zoo/tmp/llava-next.tar llava-next.tar
docker run --name rsunivlm \
--net=host \
--privileged \
--cap-add=SYS_PTRACE --shm-size 5g \
--gpus all \
-v /ssd2/lixiang/rs:/ssd2/lixiang/rs \
-itd \
vkashyap10/llava-next:latest /bin/bash
docker exec -it rsunivlm bash
运行github上相应的命令去配环境,没碰到什么问题。
需要下checkpoints,在Google Drive上,要外网。。那就还是传到那个能连外网的机子上,再导过来。
# 先安装gdown
pip install gdown
# 获取Google drive文件(不能是文件夹)的ID
# 比如这个https://drive.google.com/file/d/12LhpGHvGu4wIgXrONspNKqfGFpTfr0-p/view?usp=drive_link 里面的12LhpGHvGu4wIgXrONspNKqfGFpTfr0-p就是id。
# 在python中运行
>>> import gdown
>>> url = 'https://drive.google.com/uc?id=1Egva7JAYHliVUcqxk5pnFymyNaE3d_B3'
>>> output = 'added_tokens.json'
>>> gdown.download(url, output, quiet=False)
接下来是跑代码环节了。
在容器里装一个icoding的vscode。
# 请复制以下命令到开发机上执行(注:如在容器内执行,请在命令后添加-p 8888参数,端口号需与启动容器端口相同)
curl -s http://baidu-ide.bj.bcebos.com/platform/script/host-script/install-agent.sh | bash -s -- -g a040a1ac-d5ad-4198-87ac-6a4353c8feaa -c 2c5c163e616de3b377e19c7bed5767ac -v 1.8.401.83.1.03
# 报错了,然后去宿主机上看,发现是8888端口被占用了。直接把命令改成-p 8889就成功了