同态加密推理

haliu16 天前
人工智能·嵌入式·c·fhe·推理引擎·c11·边缘推理·同态加密推理
【FHE 同态加密】我们如何实现同态加密推理(十六):未完成清单与已知边界(同态加密推理的精度、性能与安全)关键词:同态加密 | FHE | 已知边界 | 未完成清单 | 精度 | 安全强度 | 可复现性 | 机制验证级 | 大模型密文推理
haliu17 天前
人工智能·嵌入式·c·fhe·推理引擎·c11·边缘推理·同态加密推理
【FHE 同态加密】我们如何实现同态加密推理(十五):实测账本——一跳 1.8 小时,钱花在哪(同态加密推理性能剖析)关键词:同态加密 | FHE | 性能剖析 | 实测账本 | 自举 | 域变换 | CPU 推理 | 大模型密文推理 | 耗时分析
haliu18 天前
人工智能·嵌入式·c·fhe·推理引擎·c11·边缘推理·同态加密推理
【FHE 同态加密】我们如何实现同态加密推理(十四):为什么 `RESULT=PASS` 不是判据(纯 C11 · 零依赖)关键词:同态加密 | FHE | 验证 | 可复现性 | RESULT=PASS | max|err| | SHA256 | 密文验收 | 大模型推理
haliu19 天前
人工智能·嵌入式·c·fhe·推理引擎·c11·边缘推理·同态加密推理
【FHE】(十三):位级可复现性——4 线程与 8 线程为什么算出不同的结果项目仓库 Gitee 主仓:https://gitee.com/pei-xiaoguang/kestrel-llm GitHub 镜像:https://github.com/m13253246268-ship-it/kestrel-llm
haliu20 天前
人工智能·嵌入式·c·fhe·推理引擎·c11·边缘推理·同态加密推理
【FHE】(十二):为什么我们把 OpenMP 换成了自研线程池项目仓库 Gitee 主仓:https://gitee.com/pei-xiaoguang/kestrel-llm GitHub 镜像:https://github.com/m13253246268-ship-it/kestrel-llm
haliu21 天前
嵌入式·fhe·推理引擎·边缘推理·同态加密推理
【FHE】(十一):密文链协议——两条不变式,和 112 与 2100 的分工项目仓库 Gitee 主仓:https://gitee.com/pei-xiaoguang/kestrel-llm GitHub 镜像:https://github.com/m13253246268-ship-it/kestrel-llm
haliu21 天前
人工智能·嵌入式·c·fhe·推理引擎·c11·边缘推理·同态加密推理
【FHE】(十):密文里的 attention——没有 max,softmax 怎么办项目仓库 Gitee 主仓:https://gitee.com/pei-xiaoguang/kestrel-llm GitHub 镜像:https://github.com/m13253246268-ship-it/kestrel-llm
haliu21 天前
fhe·推理引擎·边缘推理·同态加密推理
【FHE】我们如何实现同态加密推理(八):SiLU 的密文化——两条路径,和一个 8 字节的开关项目仓库 Gitee 主仓:https://gitee.com/pei-xiaoguang/kestrel-llm GitHub 镜像:https://github.com/m13253246268-ship-it/kestrel-llm
我是有底线的