【一】Mac 本地部署大模型

ninetyfour2024-04-06 15:26

盘古开天辟地开始

bash 复制代码

# 安装brew

/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"


 (echo; echo 'eval "$(/opt/homebrew/bin/brew shellenv)"') >> /Users/wangxin52/.zprofile
    eval "$(/opt/homebrew/bin/brew shellenv)"

bash 复制代码

# 创建相应的 conda 环境
conda create --name chatmodel python=3.9

conda activate chatmodel


#安装依赖包
conda install mlx=0.1

# 安装 mac 本地混合大模型
 pip install chat-with-mlx

chat-with-mlx的 git：https://github.com/qnguyen3/chat-with-mlx 如果上述安装不成功，可以参照这个 git 进行安装