直呼太强了!国产模型遇上国产算力

#模力方舟 #MoArk #GPU #租显卡 #模力方舟GPU体验官 #模力方舟GPU赛博名片 #国产GPU

随着大模型应用进入加速落地阶段,如何以更低门槛、更高效率获得稳定算力,成为团队与开发者的共识需求。

模力方舟近期上线的「算力市场」,提供即开即用、灵活计费的国产 GPU 实例,现已全面支持 沐曦 C500、燧原 S60 等多型号算力资源,最高 64GB 显存,按分钟计费,随用随开。

ai.gitee.com 启用了新的域名 moark.com/

快速体验一把国产算力的澎湃动力吧!

开机

以沐曦 曦云C500型号 为例,租用一张64GB,镜像选择 PyTorch / 2.6.0 / Python 3.10 / maca 3.2.1.3

编写代码

点击选择Jupyterlab进入到容器当中并新建一个.ipynb文件

需要先行安装一下diffusers库

python 复制代码
!pip install diffusers

之后运行下列代码,自行修改生图提示词

python 复制代码
from diffusers import DiffusionPipeline
import torch

#如果是沐曦的曦云C500,可使用内置的模型路径 /mnt/moark-models/Qwen-Image
model_name = "/mnt/moark-models/Qwen-Image"

# Load the pipeline
if torch.cuda.is_available():
    torch_dtype = torch.bfloat16
    device = "cuda"
else:
    torch_dtype = torch.float32
    device = "cpu"

pipe = DiffusionPipeline.from_pretrained(model_name, torch_dtype=torch_dtype)
pipe = pipe.to(device)


# Generate image
prompt = '''生图提示词在这里写'''

negative_prompt = " " 


aspect_ratios = {
    "1:1": (1328, 1328),
    "16:9": (1664, 928),
    "9:16": (928, 1664),
    "4:3": (1472, 1140),
    "3:4": (1140, 1472),
    "3:2": (1584, 1056),
    "2:3": (1056, 1584),
}

width, height = aspect_ratios["9:16"]

image = pipe(
    prompt=prompt,
    negative_prompt=negative_prompt,
    width=width,
    height=height,
    num_inference_steps=50,
    true_cfg_scale=4.0,
    generator=torch.Generator(device="cuda").manual_seed(42)
).images[0]

查看结果

之后将得到

内置模型

这个容器当中已经内置了很多模型,目录在/mnt/moark-models/Qwen-Image

命令行工具

在运行的过程中,可以使用mx-smi命令查看显存的占用情况

从开机到得到第一张图,大概就是一分钟左右两分钟的样子,真的很快,在科研、原型验证阶段,是非常好的帮手!

相关推荐
H5css�海秀5 小时前
今天是自学大模型的第一天(sanjose)
后端·python·node.js·php
SuniaWang5 小时前
《Spring AI + 大模型全栈实战》学习手册系列 · 专题六:《Vue3 前端开发实战:打造企业级 RAG 问答界面》
java·前端·人工智能·spring boot·后端·spring·架构
韩立学长5 小时前
Springboot校园跑腿业务系统0b7amk02(程序、源码、数据库、调试部署方案及开发环境)系统界面展示及获取方式置于文档末尾,可供参考。
数据库·spring boot·后端
sheji34165 小时前
【开题答辩全过程】以 基于springboot的扶贫系统为例,包含答辩的问题和答案
java·spring boot·后端
代码栈上的思考6 小时前
消息队列:内存与磁盘数据中心设计与实现
后端·spring
程序员小假7 小时前
我们来说一下 b+ 树与 b 树的区别
java·后端
Meepo_haha7 小时前
Spring Boot 条件注解:@ConditionalOnProperty 完全解析
java·spring boot·后端
sheji34167 小时前
【开题答辩全过程】以 基于springboot的房屋租赁系统的设计与实现为例,包含答辩的问题和答案
java·spring boot·后端
Victor3568 小时前
MongoDB(57)如何优化MongoDB的查询性能?
后端
Victor3568 小时前
MongoDB(58)如何使用索引优化查询?
后端