百度百舸

百度智能云技术站3 天前
百度百舸·deepseek·专有云
百度百舸 DeepSeek 一体机发布，支持昆仑芯 P800 单机 8 卡满血版开箱即用在私有云环境中成功部署 DeepSeek 满血版并实现性能调优，并不是一件容易的事情。选择合适的 GPU 配置、安装相应的环境、成功部署上线业务、加速推理任务加速、支撑多用户并发 …… 完成业务测试，成功融入生产业务中。
百度智能云技术站7 个月前
transformer·llama·百度智能云·百度百舸·训练加速
如何定量分析 Llama 3，大模型系统工程师视角的 Transformer 架构读完全文后，你将获得回答以下问题的能力（参考答案，请见最后一章节）：Llama 3 技术博客说 70B 模型、最长序列 8K、15T Tokens，训练了 640w GPU 时，这发挥了 H100 理论算力（989TFlops）的百分之多少?