SothisAI 是曙光给超算/智算中心用的「AI 任务管理+算力调度平台

SothisAI 是曙光给超算/智算中心用的「AI 任务管理+算力调度平台」,你在超算上跑深度学习、大模型训练,基本都是它在背后管资源、排任务、发环境。

下面按你的场景(超算 + 大模型/LoRA 训练)用大白话讲清楚:


1. SothisAI 是什么?

  • 中科曙光自研的一站式 AI 算力管理平台(类似超算上的"AI 操作系统")
  • 核心是把一堆 GPU/DCU 集群,做成多用户共享、任务排队、自动调度、环境隔离的平台
  • 底层用 Slurm + K8s 双调度,容器化,支持 PyTorch/TensorFlow 等

2. 对你来说,它主要干 4 件事

① 管资源:你不用管哪台机器、哪张卡

  • 超算很多节点(几十/几百台),每台多卡
  • SothisAI 统一调度,你只需要提需求:我要几卡、跑多久、用什么镜像
  • 它自动找空闲节点,给你分配,节点之间不用你管通信(你之前"服务器不能互相通讯"是正常的,它就是这么设计的)

② 给环境:一键拿到装好 PyTorch/Transformer 的容器

  • 不用自己装驱动、CUDA、框架、依赖
  • 平台预装好各种镜像,你直接启动 Jupyter/SSH 就能用

③ 排任务:超算人多,按优先级排队,防止大家抢卡

  • 你提交训练任务 → 进入队列 → 有空资源自动跑
  • 有最大运行时间限制(比如 24h/48h/72h),到时间会被系统停掉(你之前 50h 崩就是这个原因,不是步数问题)

④ 监控+日志:看显存、利用率、报错

  • 网页界面看:每张卡利用率、显存、loss 曲线
  • 日志集中收集,不用去节点上找 log

3. 和你训练直接相关的关键点(非常重要)

✅ 你这种"离线独立训 LoRA + 事后合并"

  • 完全不需要节点之间通信
  • 每个分片步数可以不一样(5000/6000 没问题)
  • 崩溃原因是:单任务跑太久(>48h)被 SothisAI 调度系统杀了,和步数是否统一无关

✅ SothisAI 不要求"所有任务步数一致"

  • 它只管:给你分配资源、到时间杀任务、隔离环境
  • 不管:你跑多少步、loss 多少、是否同步

4. 一句话总结(你记这句就行)

SothisAI 是超算的「AI 大管家」:帮你分 GPU、给环境、排任务、控时间;你各节点独立训 LoRA,步数不用对齐,崩是因为跑太久超时,不是它要求步数一致。


要不要我帮你按 14.79s/it 和你超算的最大时长限制 ,给每个分片单独算一个安全的 max_steps,避免超时被 SothisAI 杀掉?

相关推荐
JJJennie77711 小时前
大模型网关部署方案?MAI Gateway从部署到上线全流程
人工智能·gateway·ai网关
隔窗听雨眠11 小时前
从行为引导到基础设施约束:AGI代理风险缓解的工程化路径
网络·人工智能·agi
tellmewhoisi11 小时前
深度学习21:PyTorch:激活函数(Sigmoid,Tanh,ReLU,Softmax)
人工智能·pytorch·深度学习
ahccqw11 小时前
Opencv 基础常用API
人工智能·opencv·计算机视觉
FelixZhang02812 小时前
不懂金融或不会编程,如何开始量化?从策略搭建到回测验证
人工智能·python·算法·数学建模·均值算法·自然语言处理·金融
可乐ea12 小时前
Kimi K3.1 Pro 选型:1M 上下文和每任务成本怎么算
人工智能·计算机视觉·ai智能体·上下文窗口·大模型选型·kimik3.1pro·agent成本
Dawson Zhu12 小时前
【AI编译器入门③】编译前端:ONNX、TorchScript与动态shape处理
人工智能·语言模型·架构·aigc·agi
愤怒火龙果12 小时前
AI攻防 AIRT05-AI Supply Chain and Infrastructure Attacks
人工智能·ai安全
Yan-英杰12 小时前
手机/平板远控电脑哪个好用?ToDesk、向日葵、TeamViewer 六大维度实测对比
人工智能·智能手机·电脑·teamviewer·ai开发工具
Solange__12 小时前
AI模型编辑器、Blender和3D Agent怎么选?按5类修改任务比较局部编辑、拓扑与自动化
人工智能·3d·自然语言处理·编辑器·音视频·blender·游戏策划