技术栈
边缘推理
haliu
16 天前
人工智能
·
嵌入式
·
c
·
fhe
·
推理引擎
·
c11
·
边缘推理
·
同态加密推理
【FHE 同态加密】我们如何实现同态加密推理(十六):未完成清单与已知边界(同态加密推理的精度、性能与安全)
关键词:同态加密 | FHE | 已知边界 | 未完成清单 | 精度 | 安全强度 | 可复现性 | 机制验证级 | 大模型密文推理
haliu
17 天前
人工智能
·
嵌入式
·
c
·
fhe
·
推理引擎
·
c11
·
边缘推理
·
同态加密推理
【FHE 同态加密】我们如何实现同态加密推理(十五):实测账本——一跳 1.8 小时,钱花在哪(同态加密推理性能剖析)
关键词:同态加密 | FHE | 性能剖析 | 实测账本 | 自举 | 域变换 | CPU 推理 | 大模型密文推理 | 耗时分析
haliu
18 天前
人工智能
·
嵌入式
·
c
·
fhe
·
推理引擎
·
c11
·
边缘推理
·
同态加密推理
【FHE 同态加密】我们如何实现同态加密推理(十四):为什么 `RESULT=PASS` 不是判据(纯 C11 · 零依赖)
关键词:同态加密 | FHE | 验证 | 可复现性 | RESULT=PASS | max|err| | SHA256 | 密文验收 | 大模型推理
haliu
19 天前
人工智能
·
嵌入式
·
c
·
fhe
·
推理引擎
·
c11
·
边缘推理
·
同态加密推理
【FHE】(十三):位级可复现性——4 线程与 8 线程为什么算出不同的结果
项目仓库 Gitee 主仓:https://gitee.com/pei-xiaoguang/kestrel-llm GitHub 镜像:https://github.com/m13253246268-ship-it/kestrel-llm
haliu
20 天前
人工智能
·
嵌入式
·
c
·
fhe
·
推理引擎
·
c11
·
边缘推理
·
同态加密推理
【FHE】(十二):为什么我们把 OpenMP 换成了自研线程池
项目仓库 Gitee 主仓:https://gitee.com/pei-xiaoguang/kestrel-llm GitHub 镜像:https://github.com/m13253246268-ship-it/kestrel-llm
haliu
20 天前
嵌入式
·
fhe
·
推理引擎
·
边缘推理
·
同态加密推理
【FHE】(十一):密文链协议——两条不变式,和 112 与 2100 的分工
项目仓库 Gitee 主仓:https://gitee.com/pei-xiaoguang/kestrel-llm GitHub 镜像:https://github.com/m13253246268-ship-it/kestrel-llm
haliu
20 天前
人工智能
·
嵌入式
·
c
·
fhe
·
推理引擎
·
c11
·
边缘推理
·
同态加密推理
【FHE】(十):密文里的 attention——没有 max,softmax 怎么办
项目仓库 Gitee 主仓:https://gitee.com/pei-xiaoguang/kestrel-llm GitHub 镜像:https://github.com/m13253246268-ship-it/kestrel-llm
haliu
20 天前
fhe
·
推理引擎
·
边缘推理
·
同态加密推理
【FHE】我们如何实现同态加密推理(八):SiLU 的密文化——两条路径,和一个 8 字节的开关
项目仓库 Gitee 主仓:https://gitee.com/pei-xiaoguang/kestrel-llm GitHub 镜像:https://github.com/m13253246268-ship-it/kestrel-llm
想你依然心痛
3 个月前
工业物联网
·
数据流
·
协议转换
·
aiot网关
·
边缘推理
·
云端协同
·
模型分发
AIoT网关架构:协议转换、边缘推理与云端协同
黑暗不是终点,而是为了让你更敏锐地感知光的方向。 黑暗(困难、未知、痛苦)不是要吞没你,而是因为消除了光的干扰,反而能让最微弱的光源显形。在低谷中不是绝望,而是训练自己的“感知力”——学会在微弱信号中找到出路。
我是有底线的