技术栈
t4
扉伟庆
1 天前
算力
·
v100
·
t4
·
gpu租赁
·
l40s
GPU 算力租赁选型指南：V100 / T4 / L40S 怎么选不踩坑
租 GPU 最怕两件事：租贵了，或租错了跑不动。V100、T4、L40S 是租赁里最常见的三档，按任务选才不花冤枉钱。
Garfield2005
1 年前
pytorch
·
flashattention
·
turing
·
图灵架构
·
t4
·
2080ti
绕过 FlashAttention-2 限制：在 Turing 架构上使用 PyTorch 实现 FlashAttention
FlashAttention【github】 系列，由斯坦福大学 AI 实验室的 Dao 等人提出，通过巧妙的 I/O 感知算法（I/O-aware algorithm）和自定义的 CUDA 内核（CUDA kernel）显著提升了 Transformer 模型中注意力机制的训练和推理速度，尤其是在长序列处理方面。
我是有底线的