千问

阿牛大牛中

大模型tokenizer重构流程大模型tokenizer层再训练（选取Qwen7B试验，重构token层）最近公司可能想训练一个蛋白质大模型，需要了解一下大模型tokenizer重构，之后可能要训练，这里做了一定的总结。

【大模型实战篇】vllm本地部署阿里最新的QwQ-32B推理模型以及体验3月6日凌晨，阿里巴巴发布并开源全新的推理模型通义千问QwQ-32B。通过大规模强化学习，千问QwQ-32B在数学、代码及通用能力上实现提升。在保持性能的同时，千问QwQ-32B还大幅降低部署使用成本，在消费级显卡上也能实现本地部署。

画图小计 - 千问 & 豆包豆包的画风更偶像派千问则更真实：有油腻味、痞味、丧味豆包千问：2024-10-22（二）

安装后或升级启智环境到飞桨2.6版本（develop）启智社区的启智大脑调试环境非常好用，但是里面的飞桨环境版本比较低，为了能够运行大模型（llm），需要升级飞桨到2.6版本或者开发版本。

本地体验最强开源模型Llama3+Qnw（支持Windows和Mac）一键运行大模型本地软件（含模型）：点击下载Meta放出Llama3模型了，也应该是这段时间里的一个科技大新闻了。