chatglm2-6b

扬帆丶起航1 年前
ai·langchain·chatglm2-6b·m3e-base
Langchain-chatchat本地部署参考官网minicoda下载地址安装时注意勾选上添加环境变量。安装完成之后使用conda --version测试一下版本。
京东云技术团队1 年前
人工智能·大模型·京东云·chatglm2-6b
chatglm2-6b在P40上做LORA微调 | 京东云技术团队目前，大模型的技术应用已经遍地开花。最快的应用方式无非是利用自有垂直领域的数据进行模型微调。chatglm2-6b在国内开源的大模型上，效果比较突出。本文章分享的内容是用chatglm2-6b模型在集团EA的P40机器上进行垂直领域的LORA微调。
余俊晖1 年前
人工智能·深度学习·自然语言处理·llm·大语言模型·文本生成·chatglm2-6b
大语言模型控制生成的过程Trick：自定义LogitsProcessor实践在大模型的生成过程中，部分原生的大语言模型未经过特殊的对齐训练，往往会“胡说八道”的生成一些敏感词语等用户不想生成的词语，最简单粗暴的方式就是在大模型生成的文本之后，添加敏感词库等规则手段进行敏感词过滤，但是在生成过程中，生成敏感词仍然耗费了时间和算力成本。