技术栈
同态加密推理
haliu
16 天前
人工智能
·
嵌入式
·
c
·
fhe
·
推理引擎
·
c11
·
边缘推理
·
同态加密推理
【FHE 同态加密】我们如何实现同态加密推理(十六):未完成清单与已知边界(同态加密推理的精度、性能与安全)
关键词:同态加密 | FHE | 已知边界 | 未完成清单 | 精度 | 安全强度 | 可复现性 | 机制验证级 | 大模型密文推理
haliu
17 天前
人工智能
·
嵌入式
·
c
·
fhe
·
推理引擎
·
c11
·
边缘推理
·
同态加密推理
【FHE 同态加密】我们如何实现同态加密推理(十五):实测账本——一跳 1.8 小时,钱花在哪(同态加密推理性能剖析)
关键词:同态加密 | FHE | 性能剖析 | 实测账本 | 自举 | 域变换 | CPU 推理 | 大模型密文推理 | 耗时分析
haliu
18 天前
人工智能
·
嵌入式
·
c
·
fhe
·
推理引擎
·
c11
·
边缘推理
·
同态加密推理
【FHE 同态加密】我们如何实现同态加密推理(十四):为什么 `RESULT=PASS` 不是判据(纯 C11 · 零依赖)
关键词:同态加密 | FHE | 验证 | 可复现性 | RESULT=PASS | max|err| | SHA256 | 密文验收 | 大模型推理
haliu
19 天前
人工智能
·
嵌入式
·
c
·
fhe
·
推理引擎
·
c11
·
边缘推理
·
同态加密推理
【FHE】(十三):位级可复现性——4 线程与 8 线程为什么算出不同的结果
项目仓库 Gitee 主仓:https://gitee.com/pei-xiaoguang/kestrel-llm GitHub 镜像:https://github.com/m13253246268-ship-it/kestrel-llm
haliu
20 天前
人工智能
·
嵌入式
·
c
·
fhe
·
推理引擎
·
c11
·
边缘推理
·
同态加密推理
【FHE】(十二):为什么我们把 OpenMP 换成了自研线程池
项目仓库 Gitee 主仓:https://gitee.com/pei-xiaoguang/kestrel-llm GitHub 镜像:https://github.com/m13253246268-ship-it/kestrel-llm
haliu
21 天前
嵌入式
·
fhe
·
推理引擎
·
边缘推理
·
同态加密推理
【FHE】(十一):密文链协议——两条不变式,和 112 与 2100 的分工
项目仓库 Gitee 主仓:https://gitee.com/pei-xiaoguang/kestrel-llm GitHub 镜像:https://github.com/m13253246268-ship-it/kestrel-llm
haliu
21 天前
人工智能
·
嵌入式
·
c
·
fhe
·
推理引擎
·
c11
·
边缘推理
·
同态加密推理
【FHE】(十):密文里的 attention——没有 max,softmax 怎么办
项目仓库 Gitee 主仓:https://gitee.com/pei-xiaoguang/kestrel-llm GitHub 镜像:https://github.com/m13253246268-ship-it/kestrel-llm
haliu
21 天前
fhe
·
推理引擎
·
边缘推理
·
同态加密推理
【FHE】我们如何实现同态加密推理(八):SiLU 的密文化——两条路径,和一个 8 字节的开关
项目仓库 Gitee 主仓:https://gitee.com/pei-xiaoguang/kestrel-llm GitHub 镜像:https://github.com/m13253246268-ship-it/kestrel-llm
我是有底线的