大模型部署

大模型部署(deepseek)

ps :本人使用的是wsl1(window10以上版本),使用ubuntu(一款linux系统),然后在ubuntu上使用ollama(开源的本地大语言模型运行框架)运行大模型

此图是一个基本的部署架构图

wsl部署

下载安装后重启、

安装Ubuntu

下载安装后打开,进行用户的创建

创建完成后会出现如下界面

安装window terminal

因为ubuntu的终端窗口不好用,所以使用window的终端窗口

下载安装后,从下三角中找到Ubuntu,打开即可

验证cuda是否可用

ps:cuda只有英伟达的显卡才有,是一个GPU加速计算的功能

安装ollama

linux系统支持一键安装,但是因为网络问题很容易失败,所以使用手动安装,通过以下地址下载ollama安装包(一定要记住安装的路径)

解压下载的ollama安装包,注意先完成ps的操作,再进行解压操作

运行以下命令,注意第四步,要使用linux系统的文件编辑系统

使用PyCharm连接wsl

从文件目录中找到远程开发

提前在linux系统中创建好工程文件夹,然后在此处选择好

确认一下路径是否为linux路径

创建一个代码然后执行,如果为以下结果 ,那么就配置成功了

相关推荐
暴躁的大熊1 分钟前
机器学习中的知识图谱:概念、核心技术与应用场景
人工智能·机器学习·知识图谱
Pokerhead2 分钟前
如何评价 DeepSeek-V4 的价格?
人工智能·大模型·ai编程·deepseek
aiqianji5 分钟前
有哪些稳定的AI短篇小说写作软件可以推荐?
人工智能·python
蓝速科技7 分钟前
蓝速科技丨AI双屏翻译机:重塑线下接待的从容沟通体验
人工智能·科技
Nomarsgo8 分钟前
研华17寸工业显示器 FPM-217在智能制造产线中的应用方案
人工智能·科技·计算机视觉·视觉检测·电脑
ifenxi爱分析9 分钟前
爱分析发布2026年中国GEO市场研究报告
人工智能
石小石Orz13 分钟前
TRAE SOLO实战:实现一个桌面3D助手
前端·人工智能
武子康23 分钟前
Ask/Allow 不是安全边界:企业 Coding Agent 必须建立四层治理(Policy / Scoped Credential / Sandbox / Provenance)
人工智能·后端·agent
独隅24 分钟前
DevEco Code 在 Windows/MacOS 双系统上的完整使用指南
ide·人工智能·windows·macos·华为·harmonyos
数智顾问26 分钟前
(84页PPT)PWC海科集团生物医药业务5年发展战略项目建议书(附下载方式)
大数据·人工智能·物联网