技术栈
什么是cpp (c++ c plus plus) 版模型
领航猿1号
2024-06-18 21:10
.cpp 模型指的是纯 C/C++ 实现,无需外部依赖。
针对使用 ARM NEON、Accelerate 和 Metal 框架的 Apple 芯片进行了优化。
支持适用于 x86 架构的 AVX、AVX2 和 AVX512。
提供 F16/F32 混合精度,并支持 2 位至 8 位整数量化。
常见的示例
ChatGLM cpp:
GitHub - li-plus/chatglm.cpp: C++ implementation of ChatGLM-6B & ChatGLM2-6B & ChatGLM3 & more LLMs
Llama cpp:
GitHub - ggerganov/llama.cpp: LLM inference in C/C++
人工智能
自然语言处理
aigc
上一篇:
计算机专业毕设-校园二手交易平台
下一篇:
Java17 --- RabbitMQ搭建集群
相关推荐
X.Cristiano
2 分钟前
MinerU2.5:一种用于高效高分辨率文档解析的解耦视觉-语言模型
人工智能
·
mineru
金井PRATHAMA
3 分钟前
产生式规则对人工智能中自然语言处理深层语义分析的影响与启示研究
人工智能
·
自然语言处理
·
知识图谱
AI浩
6 分钟前
大型语言模型的门控注意力:非线性、稀疏性与无注意力沉没
人工智能
·
语言模型
·
自然语言处理
Saniffer_SH
8 分钟前
【高清视频】CXL 2.0 over Fibre演示和答疑 - 将内存拉到服务器10米之外
运维
·
服务器
·
网络
·
人工智能
·
驱动开发
·
计算机外设
·
硬件工程
工藤学编程
1 小时前
零基础学AI大模型之Prompt提示词工程
人工智能
·
prompt
YEGE学AI算法
1 小时前
语音识别的评价指标
人工智能
·
语音识别
老坛程序员
1 小时前
开源项目Sherpa-onnx:全平台离线语音识别的轻量级高性能引擎
人工智能
·
深度学习
·
机器学习
·
语音识别
YEGE学AI算法
1 小时前
语音识别-流式和非流式实现方式
人工智能
·
语音识别
HyperAI超神经
1 小时前
AI 论文周报丨视觉语言模型应用/不稳定奇点族新发现/强化学习……一文了解多领域创新趋势与前沿动态
人工智能
·
ai
·
语言模型
ahe168
2 小时前
用deepseek部署全自动的机器人--bytebot
人工智能
热门推荐
01
GitHub 镜像站点
02
KGG转MP3工具|非KGM文件|解密音频
03
OpenSpeedy简介
04
UV安装并设置国内源
05
jdk21下载、安装(Windows、Linux、macOS)
06
在国行 macOS 下用 DeepSeek 补齐 Xcode 26 的 AI 能力:问题、原因与 mitmproxy 解决方案(含可用脚本与安装教程)
07
Linux下V2Ray安装配置指南
08
UV 工具安装与国内镜像源配置指南
09
阿里最新开源Wan2.2-Animate-14B 本地部署教程:统一双模态框架,MoE架构赋能电影级角色动画与替换
10
Spec-Kit 使用指南