技术栈
什么是cpp (c++ c plus plus) 版模型
领航猿1号
2024-06-18 21:10
.cpp 模型指的是纯 C/C++ 实现,无需外部依赖。
针对使用 ARM NEON、Accelerate 和 Metal 框架的 Apple 芯片进行了优化。
支持适用于 x86 架构的 AVX、AVX2 和 AVX512。
提供 F16/F32 混合精度,并支持 2 位至 8 位整数量化。
常见的示例
ChatGLM cpp:
GitHub - li-plus/chatglm.cpp: C++ implementation of ChatGLM-6B & ChatGLM2-6B & ChatGLM3 & more LLMs
Llama cpp:
GitHub - ggerganov/llama.cpp: LLM inference in C/C++
人工智能
自然语言处理
aigc
上一篇:
计算机专业毕设-校园二手交易平台
下一篇:
Java17 --- RabbitMQ搭建集群
相关推荐
PPIO派欧云
21 分钟前
PPIO上线Qwen-VL-8B/30B、GLM-4.5-Air等多款中小尺寸模型
人工智能
油泼辣子多加
1 小时前
【实战】自然语言处理--长文本分类(1)DPCNN算法
算法
·
自然语言处理
·
分类
chenchihwen
1 小时前
AI代码开发宝库系列:FAISS向量数据库
数据库
·
人工智能
·
python
·
faiss
·
1024程序员节
张登杰踩
2 小时前
工业产品表面缺陷检测方法综述:从传统视觉到深度学习
人工智能
·
深度学习
神秘的土鸡
2 小时前
从数据仓库到数据中台再到数据飞轮:我的数据技术成长之路
java
·
服务器
·
aigc
·
数据库架构
·
1024程序员节
sponge'
2 小时前
opencv学习笔记6:SVM分类器
人工智能
·
机器学习
·
支持向量机
·
1024程序员节
zandy1011
2 小时前
2025年AI IDE的深度评测与推荐:从单一功能效率转向生态壁垒
ide
·
人工智能
andyguo
2 小时前
ChatGPT Atlas vs Chrome:AI 浏览器的新纪元
人工智能
·
chrome
·
chatgpt
北京迅为
3 小时前
【北京迅为】iTOP-4412精英版使用手册-第六十七章 USB鼠标驱动详解
linux
·
人工智能
·
嵌入式
·
4412
余俊晖
4 小时前
RLVR训练多模态文档解析模型-olmOCR 2技术方案(模型、数据和代码均开源)
人工智能
·
算法
·
ocr
·
grpo
热门推荐
01
BongoCat - 跨平台键盘猫动画工具
02
GitHub 镜像站点
03
UV安装并设置国内源
04
Linux下V2Ray安装配置指南
05
jdk21下载、安装(Windows、Linux、macOS)
06
GitLab 零基础入门指南:从安装到项目管理全流程
07
NVIDIA显卡驱动、CUDA、cuDNN 和 TensorRT 版本匹配指南
08
KGG转MP3工具|非KGM文件|解密音频
09
Labelme从安装到标注:零基础完整指南
10
在VSCode配置Java开发环境的保姆级教程(适配各类AI编程IDE)