【一】Mac 本地部署大模型

盘古开天辟地开始

bash 复制代码
# 安装brew

/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"


 (echo; echo 'eval "$(/opt/homebrew/bin/brew shellenv)"') >> /Users/wangxin52/.zprofile
    eval "$(/opt/homebrew/bin/brew shellenv)"
bash 复制代码
# 创建相应的 conda 环境
conda create --name chatmodel python=3.9

conda activate chatmodel


#安装依赖包
conda install mlx=0.1

# 安装 mac 本地混合大模型
 pip install chat-with-mlx

chat-with-mlx的 git:https://github.com/qnguyen3/chat-with-mlx 如果上述安装不成功,可以参照这个 git 进行安装

相关推荐
cpsvps14 小时前
海外云服务器压力测试,如何评估服务器性能与稳定性
运维·服务器·压力测试
防搞活机14 小时前
ubuntu 服务器(带NVLink)更新显卡驱动 (巨坑!!)
linux·服务器·深度学习·ubuntu·gpu算力·显卡驱动
不是编程家14 小时前
Linux第二十二讲:数据链路层 && NAT && 代理服务 && 内网穿透
linux·运维·服务器
---学无止境---14 小时前
Linux中读写自旋锁rwlock的实现
linux
看着捉急15 小时前
x86_64 centos7.2 上用aarch64-linux-gnu-gcc4.8.5交叉编译qt5.11.3
linux·运维·qt
Murphy_lx16 小时前
Linux(操作系统)文件系统--对打开文件的管理(C语言层面)
linux·服务器·c语言
小白电脑技术16 小时前
Nginx-Proxy-Manager配置SSL泛域名证书教程
运维·ssl
脏脏a17 小时前
【Linux篇】Linux指令进阶:从入门到熟练的实操指南
linux·运维·服务器
2501_9159090618 小时前
iOS 应用上架全流程解析,苹果应用发布步骤、ipa 上传工具、TestFlight 测试与 App Store 审核经验
android·macos·ios·小程序·uni-app·cocoa·iphone
Jouzzy18 小时前
【iOS安全】iPhone X iOS 16.7.11 (20H360) Palera1n MacOS版 越狱教程
macos·ios·iphone