一些意外的bug

类型一:安装包问题

1、包内部代码报错,如:某方法没有

检查版本:

python -> import 包名 -> 包名.version -> 包名.file

若import 的包名与 pip安装的包的路径不一致,则copy过去

具体:

1、key llama error transformers问题,需安装4.28

2、deepspeed没有adam_cuda属性,需要安装0.8.3 (torch的版本要1.12.1的)

类型二:目录没有权限

sudo chmod 777 dir

sudo chmod 777 dir/* (目录下的文件负最大权限)

类型三、python使用版本不对

sudo python与python用的不是同一个python

解决办法:

iii. sudo cp /usr/bin/python /usr/bin/python_bak

iv. sudo rm /usr/bin/python

v. sudo ln -s /opt/conda/bin/python /usr/bin/python

类型三、cpu与gpu上的半精度问题

def normalize(x, axis=-1):

x = 1. * x / (torch.norm(x, 2, axis, keepdim=True).expand_as(x)+1e-12)

return x

embed 目前在显卡上且是半精度

normalize(embed_f).cpu() 与 normalize(embed_f.cpu()) 的结果会不一样,后者会改变精度

解决办法:采用normalize(embed_f.cpu().float())

tips:这三种结果都有细微 的差别,只是normalize(embed_f.cpu())差别很明显

numpy与tensor 取值问题:

复制代码
[str(i.item()) for i in normalize(embed_f[0]).cpu().numpy()]

result:['0.02435302734375', '0.0052337646484375']

[str(i) for i in normalize(embed_f[0]).cpu().numpy()]

result:['0.02435', '0.005234']

cuda error:

RuntimeError: CUDA error: device-side assert triggered

CUDA kernel errors might be asynchronously reported at some other API call, so the stacktrace below might be incorrect.

For debugging consider passing CUDA_LAUNCH_BLOCKING=1.

Compile with `TORCH_USE_CUDA_DSA` to enable device-side assertions.

解决办法:python 前面加入CUDA_VISIBLE_DEVICES=3

llama1 加入这一串也能解决:

复制代码
if tokenizer.pad_token is None:
        DEFAULT_PAD_TOKEN = "[PAD]"
        DEFAULT_EOS_TOKEN = "</s>"
        DEFAULT_BOS_TOKEN = "</s>"
        DEFAULT_UNK_TOKEN = "</s>"
        tokenizer.add_special_tokens(
            {
                "eos_token": DEFAULT_EOS_TOKEN,
                "bos_token": DEFAULT_BOS_TOKEN,
                "unk_token": DEFAULT_UNK_TOKEN,
                "pad_token": DEFAULT_PAD_TOKEN,
            }
        )
        tokenizer.add_eos_token = False
相关推荐
2601_967987372 天前
程序员遇到BUG的解释
程序员·bug·软件开发·调试·幽默
jianqiang.xue2 天前
线程一切换浮点全作废:五天修好的隐秘bug
bug
寂寞的船5 天前
【Unity Bug挑战】第12期 Awaitable 二次 await 死锁之谜 —— 为什么同一个异步操作等两次就卡死?
unity·c#·游戏引擎·bug
海拥✘6 天前
让 AI 修 AI 平台自己的 Bug:我用 SoduWork 给 SoduWork 提了一个 PR
人工智能·bug
Risehuxyc8 天前
fix bug
bug
拖累斯11 天前
Jenkins + Python 全自动跑通「禅道任务/BUG 导出 → 月度开发考核表」
python·jenkins·bug
寂寞的船12 天前
【Unity Bug挑战】第10期 SerializeReference 内存泄漏之谜
unity·c#·游戏引擎·bug
unity工具人12 天前
unity 照片墙插件(Pop-up Photo Wall)在触摸屏和红外框设备上的触发Bug
bug
灼行15 天前
Autosar SecOC 需求场景BUG(需求不一致性)【草稿】
bug
小豆庄17 天前
视频遮罩追踪退场后ID撞号的排查—多目标场景下的失效
opencv·算法·bug·视频·python3.11