技术栈
什么是cpp (c++ c plus plus) 版模型
领航猿1号
2024-06-18 21:10
.cpp 模型指的是纯 C/C++ 实现,无需外部依赖。
针对使用 ARM NEON、Accelerate 和 Metal 框架的 Apple 芯片进行了优化。
支持适用于 x86 架构的 AVX、AVX2 和 AVX512。
提供 F16/F32 混合精度,并支持 2 位至 8 位整数量化。
常见的示例
ChatGLM cpp:
GitHub - li-plus/chatglm.cpp: C++ implementation of ChatGLM-6B & ChatGLM2-6B & ChatGLM3 & more LLMs
Llama cpp:
GitHub - ggerganov/llama.cpp: LLM inference in C/C++
人工智能
自然语言处理
aigc
上一篇:
计算机专业毕设-校园二手交易平台
下一篇:
Java17 --- RabbitMQ搭建集群
相关推荐
想要成为计算机高手
1 小时前
11. isaacsim4.2教程-Transform 树与Odometry
人工智能
·
机器人
·
自动驾驶
·
ros
·
rviz
·
isaac sim
·
仿真环境
静心问道
2 小时前
InstructBLIP:通过指令微调迈向通用视觉-语言模型
人工智能
·
多模态
·
ai技术应用
宇称不守恒4.0
2 小时前
2025暑期—06神经网络-常见网络2
网络
·
人工智能
·
神经网络
小楓1201
2 小时前
醫護行業在未來會被AI淘汰嗎?
人工智能
·
醫療
·
護理
·
職業
墨风如雪
3 小时前
会“偷懒”的大模型来了:快手开源KAT-V1,终结AI“过度思考”
aigc
数据与人工智能律师
3 小时前
数字迷雾中的安全锚点:解码匿名化与假名化的法律边界与商业价值
大数据
·
网络
·
人工智能
·
云计算
·
区块链
chenchihwen
3 小时前
大模型应用班-第2课 DeepSeek使用与提示词工程课程重点 学习ollama 安装 用deepseek-r1:1.5b 分析PDF 内容
人工智能
·
学习
说私域
3 小时前
公域流量向私域流量转化策略研究——基于开源AI智能客服、AI智能名片与S2B2C商城小程序的融合应用
人工智能
·
小程序
Java樱木
3 小时前
AI 编程工具 Trae 重要的升级。。。
人工智能
凪卄1213
3 小时前
图像预处理 二
人工智能
·
python
·
深度学习
·
计算机视觉
·
pycharm
热门推荐
01
Qwen3-Coder 快速上手教程 | Qwen Code + Claude Code
02
全球最强模型Grok4,国内已可免费使用!(附教程)
03
vue数据变化但页面不变
04
KGG转MP3工具|非KGM文件|解密音频
05
sqli-labs 靶场 less-8、9、10 第八关到第十关详解:布尔注入,时间注入
06
扣子开源本地部署教程 丨Coze智能体小白喂饭级指南
07
干翻 Typora!MilkUp:完全免费的桌面端 Markdown 编辑器!
08
【2025.7.18】更新vscode后所有.vue文件template标签后报红的临时解决办法,Vue - Official 插件3.0.2导致
09
ChatGPT Agent 完全使用指南:2025年7月最新功能详解
10
《魔兽世界》提示lua警告的含义及解决方法