技术栈
什么是cpp (c++ c plus plus) 版模型
领航猿1号
2024-06-18 21:10
.cpp 模型指的是纯 C/C++ 实现,无需外部依赖。
针对使用 ARM NEON、Accelerate 和 Metal 框架的 Apple 芯片进行了优化。
支持适用于 x86 架构的 AVX、AVX2 和 AVX512。
提供 F16/F32 混合精度,并支持 2 位至 8 位整数量化。
常见的示例
ChatGLM cpp:
GitHub - li-plus/chatglm.cpp: C++ implementation of ChatGLM-6B & ChatGLM2-6B & ChatGLM3 & more LLMs
Llama cpp:
GitHub - ggerganov/llama.cpp: LLM inference in C/C++
人工智能
自然语言处理
aigc
上一篇:
计算机专业毕设-校园二手交易平台
下一篇:
Java17 --- RabbitMQ搭建集群
相关推荐
视觉语言导航
11 分钟前
兼顾长、短视频任务的无人机具身理解!AirVista-II:面向动态场景语义理解的无人机具身智能体系统
人工智能
·
无人机
·
具身智能
墨绿色的摆渡人
19 分钟前
pytorch小记(二十二):全面解读 PyTorch 的 `torch.cumprod`——累积乘积详解与实战示例
人工智能
·
pytorch
·
python
moonsims
25 分钟前
低空态势感知:基于AI的DAA技术是低空飞行的重要安全保障-机载端&地面端
人工智能
·
安全
若叶时代
37 分钟前
数据分析_Python
人工智能
·
python
·
数据分析
虾球xz
40 分钟前
游戏引擎学习第286天:开始解耦实体行为
c++
·
人工智能
·
学习
·
游戏引擎
武子康
42 分钟前
大语言模型 11 - 从0开始训练GPT 0.25B参数量 MiniMind2 准备数据与训练模型 DPO直接偏好优化
人工智能
·
gpt
·
ai
·
语言模型
·
自然语言处理
羽凌寒
2 小时前
图像对比度调整(局域拉普拉斯滤波)
人工智能
·
计算机视觉
大模型铲屎官
2 小时前
【Python-Day 14】玩转Python字典(上篇):从零开始学习创建、访问与操作
开发语言
·
人工智能
·
pytorch
·
python
·
深度学习
·
大模型
·
字典
一点.点
2 小时前
计算机视觉的简单介绍
人工智能
·
深度学习
·
计算机视觉
量子-Alex
2 小时前
【目标检测】【Transformer】Swin Transformer
人工智能
·
目标检测
·
transformer
热门推荐
01
KGG转MP3工具|非KGM文件|解密音频
02
YOLOv8入门 | 重要性能衡量指标、训练结果评价及分析及影响mAP的因素【发论文关注的指标】
03
从零安装 LLaMA-Factory 微调 Qwen 大模型成功及所有的坑
04
【SpeedAI科研小助手】2分钟极速解决知网维普重复率、AIGC率过高,一键全文降!文件格式不变,公式都保留的!
05
DeepSeek各版本说明与优缺点分析
06
Coze扣子平台完整体验和实践(附国内和国际版对比)
07
YOLOv5改进 | 添加CA注意力机制 + 增加预测层 + 更换损失函数之GIoU
08
苍穹外卖面试总结
09
yolov8,yolo11,yolo12 服务器训练到部署全流程 笔记
10
第一届 “帕鲁杯“ writeup