【一】Mac 本地部署大模型

盘古开天辟地开始

bash 复制代码
# 安装brew

/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"


 (echo; echo 'eval "$(/opt/homebrew/bin/brew shellenv)"') >> /Users/wangxin52/.zprofile
    eval "$(/opt/homebrew/bin/brew shellenv)"
bash 复制代码
# 创建相应的 conda 环境
conda create --name chatmodel python=3.9

conda activate chatmodel


#安装依赖包
conda install mlx=0.1

# 安装 mac 本地混合大模型
 pip install chat-with-mlx

chat-with-mlx的 git:https://github.com/qnguyen3/chat-with-mlx 如果上述安装不成功,可以参照这个 git 进行安装

相关推荐
IT大白鼠19 小时前
彭大帅的AI运维助手第 10 篇——K8s 集群探针升级记:从服务级到业务级
运维·kubernetes·aiops·彭大帅
多弗朗皮卡丘1 天前
网络基础:数据链路层与其他协议或技术
linux·网络·tcp/ip
Karl_fang1 天前
🥳 再也不用拿起手机抄验证码!我做了一个 Android → Mac 的「验证码接力」工具
前端·macos·ai编程
考虑考虑1 天前
nginx拦截url
运维·后端·nginx
速捷工控 PLC触摸屏还原程序1 天前
欧姆龙NB上传密码忘了,换屏前怎么保留原程序?
运维·服务器·欧姆龙
方便面不加香菜1 天前
Docker Volume -- 对照总结及综合实战案例操作演示
运维·docker·容器
爱勇宝1 天前
SSL 证书别再手动续了:acme.sh + Let's Encrypt + 云厂商 DNS 全自动实战
运维·服务器
数据库小学妹1 天前
数据库容量规划:四个数与扩容触发线
运维·数据库·后端
dingdingfish1 天前
TLPI 第52章 读书笔记:POSIX Message Queues
linux·mq·ipc·posix·message·tlpi