ai(三)环境资源管理

1.查看电脑资源

首先是硬件资源,电脑硬件资源决定了这台电脑上能进行哪些开发操作,硬件不行,可买硬件改装或者直接用云部署和训练,或者先进行简单的小模型的调用和开发,不进行复杂的训练和微调。

在硬件的基础上,再进行软件的配置安装。

1.硬件资源检查 (有的是双显卡的,可问ai资源检查命令,看看显卡配置)

查看CPU信息

lscpu

cat /proc/cpuinfo | grep "model name" | head -1

查看内存

free -h

cat /proc/meminfo | grep MemTotal

查看磁盘空间

df -h

查看GPU信息(如果有)

nvidia-smi

lspci | grep -i nvidia

把数据直接复制丢给ai,让ai回复目前硬件条件能进行哪些ai开发操作

2.软件检查

检查Python(推荐3.10以上)和pip

python --version

pip --version

检查conda环境和torch

conda --version

conda info --envs

conda list | grep -E "(torch|tensorflow|transformers)"

##缺什么直接问ai进行下载,推荐下载anconda后,用conda命令下载torch|tensorflow|transformers等,兼容性更好。

2.不同conda虚拟环境下,库的安装

根据之前ai给你的推荐的开发操作和项目,可创建多个/一个虚拟环境,不同环境下,根据需求进行库的安装:

如果你只需要加载模型推理:

需要:transformers, sentencepiece, accelerate

如果你需要训练模型:

需要:transformers, datasets, metrics, torch, accelerate

如果你只需要使用预训练模型:

需要:transformers, sentencepiece(可能不需要datasets, metrics)

或者,直接简单一点,基础安装,然后缺啥补啥

第一步:基础安装

pip install transformers sentencepiece

第二步:运行代码,看报错信息

python your_script.py

第三步:根据报错补充安装

如果报错缺少accelerate:pip install accelerate

如果报错缺少datasets:pip install datasets

3.模型选择,下载,部署(推荐modelscope)

3.1 先根据需求确定模型的系列,可上网搜索或者询问ai,推荐

一般是直接选择Qwen系列就行,但是也可以从Tiny系列的小模型开始练手。

3.2 选定后缀格式,估算内存占比

01 GGUF​------CPU推理、低资源环境(大部分新手的选择,因为硬件条件不够)

02 PyTorch(.bin)​------GPU训练、完整功能

03 Safetensors​------安全推理、快速加载

04 ONNX​------生产部署、跨平台

选定后根据官网教程下载即可。

交互方式有三种:命令行对话交互,网页交互,openAI交互。

相关推荐
云上先途4 分钟前
任务智能体可以自动完成哪些类型工作,是不是只能做简单重复操作?
大数据·人工智能
明志数科12 分钟前
具身智能数据供给的分层:分布式采集与入厂采集的工程边界分析
人工智能·机器学习·机器人
像风一样自由202012 分钟前
41.用FastAPI搭建一个RAG后端需要哪些接口
人工智能·大模型·fastapi·rag·智能体
小蒋观天下15 分钟前
两轮车检测AI摄像头——2026行业竞争格局、商业模式与核心痛点
大数据·人工智能·安全·计算机视觉·ai大模型
RisunJan21 分钟前
【这就是AI】AI每日资讯简报 - 2026-09-28(周一)
大数据·人工智能
也非非也30 分钟前
DeepSeek没发公告,但它把Agent装进了你的电脑
人工智能·开源·agent·deepseek·dsh
进击的横打30 分钟前
【人工智能】用AI搭建个人决策系统
人工智能
2601_9567436840 分钟前
2026年上海GEO优化公司交付力测评:从AI信息链路看可核验、可量化、可归属的能力分野
人工智能·ai·上海·行业观察
weixin_6665939942 分钟前
从一句话建表看时空智能体的元数据治理架构——Harness、MCP、Skill如何协同
人工智能·agent·结构化数据·建库
圆圆讲门店1 小时前
挑选同城获客服务机构时需要考量的核心因素都有哪些?
大数据·网络·人工智能·python