使用某云超算平台Jupyterlab的使用方法(自用)

①首先登录进入某云算力平台,申请资源,打开交互式界面

②上传自己的项目文件在/home/u********/路径下(数据文件放到my_files/records这个文件夹,),并在其中单独新建一个文件夹用于保存项目文件

③然后进入终端,创建虚拟环境,并为对应的虚拟环境下载合适的Python解释器版本,然后激活该环境,cd到对应项目文件夹中,运行和安装相应的依赖包即可

整个流程需要用到的指令代码:

python 复制代码
# 在 Terminal 执行
conda create -n proj python=3.10 ipykernel -y
source activate proj            # 激活

pip install -U "magic-pdf[full]" --extra-index-url https://wheels.myhloli.com

cd /home/u*******/
conda install 相应的依赖包 加镜像链接

python 相应文件.py  #运行对应的py文件


# 由于会出现其mineru指令不存在的问题
pip install -U "mineru[core]"
mineru --help

wget https://github.com/opendatalab/MinerU/raw/master/scripts/download_models_hf.py -o download_models_hf.py

最新使用的是处理PDF转json的项目,项目位于数据分析3这个资源下,其项目为M开头的。

这个项目需要安装一个国内镜像加速下载的库(pip install huggingface_hub)否则容易报错,并且考虑到一条条输入指令的麻烦性,写了一个自动指令输入的指令代码:

最终直接运行这个python文件即可

python 复制代码
import os
import subprocess


def simple_batch():
	"""最简单的批量处理 - 直接在终端显示命令和输出"""
	
	input_folder = "/home/u*********/M**********/my_file/records/"
	output_base = "/home/u********/M***********/output/"
	
	# 获取所有PDF文件
	pdf_files = [f for f in os.listdir(input_folder) if f.lower().endswith('.pdf')]
	
	if not pdf_files:
		print("❌ 未找到PDF文件")
		return
	
	print(f"📁 找到 {len(pdf_files)} 个PDF文件\n")
	
	for i, pdf_file in enumerate(pdf_files, 1):
		input_path = os.path.join(input_folder, pdf_file)
		output_path = os.path.join(output_base, pdf_file.replace('.pdf', ''))
		
		# 构建命令
		cmd = f'm***** -p "{input_path}" -o "{output_path}"'
		
		print(f"🚀 执行命令 [{i}/{len(pdf_files)}]:")
		print(f"   {cmd}")
		print("-" * 80)
		
		# 直接执行,输出到终端
		return_code = subprocess.call(cmd, shell=True)
		
		if return_code == 0:
			print("✅ 完成\n")
		else:
			print(f"❌ 失败 (返回码: {return_code})\n")


if __name__ == "__main__":
	simple_batch()
相关推荐
草莓熊Lotso1 小时前
【Linux系统加餐】从原理到封装:基于建造者模式实现System V信号量工业级C++封装
android·linux·运维·服务器·网络·c++·建造者模式
爱睡懒觉的焦糖玛奇朵7 小时前
【从视频到数据集:焦糖玛奇朵的魔法工具使用说明】
人工智能·python·深度学习·学习·算法·yolo·音视频
广州灵眸科技有限公司7 小时前
瑞芯微(EASY EAI)RV1126B 核心板供电电路
linux·运维·服务器·单片机·嵌入式硬件·电脑
keyipatience7 小时前
18.Linux进程退出和进程等待机制详解
linux·运维·服务器
仙柒4157 小时前
控制平面组件和节点组件
运维·容器·kubernetes
齐齐大魔王7 小时前
Linux-网络编程实战
linux·运维·网络
yangshicong8 小时前
第11章:结构化输出与数据提取 —— 让 AI 直接返回你想要的数据格式
数据库·人工智能·redis·python·langchain·ai编程
言之。8 小时前
【Python】免费的中文 AI 配音方案
开发语言·人工智能·python
Warson_L8 小时前
python dict key详解
python
天天进步20158 小时前
Python全栈项目:从零手操一个高性能 API 网关
开发语言·python