技术栈

csa

Briwisdom
18 天前
kvcache·csa·deepseek v4
DeepSeek V4-Pro 推理数据流——三层注意力 + Hyper-Connections 详解副标题: DeepSeek V4-Pro(1.6T / 49B 激活)是当前最复杂的开源 MoE 架构之一——三层混合注意力(SWA + CSA + HCA)、Hyper-Connections 替代残差连接、Lightning Indexer、FP4 专家……本文从 config.json 出发,逐层拆解 V4-Pro 的推理数据流。
stay_cloud
7 个月前
算法与硬件设计·csa
《Computer Arithmetic —— Algorithms and Hardware Designs》加法、乘法部分学习单比特的半加器和全加器是通用的基本构件,用于合成加法器以及许多其他类型的算术电路。一个半加器接收两个输入比特x和y,产生一个和比特s=x⊕y=xy'+x'y和一个进位比特c=xy。图5.1描绘了半加器的多种可能逻辑实现中的三种。一个半加器可以看作一个单比特二进制加法器,它产生其单比特输入的2比特和,即x+y=(couts)two,其中该表达式中的加号代表算术和而非逻辑或。
我是有底线的