技术栈

ai推理

逻极
2 天前
物联网·边缘计算·实时数据处理·ai推理
边缘计算实战:物联网实时数据处理延迟降低65%的架构演进从云端到边缘,我们如何解决数千设备并发下的数据处理瓶颈去年我们团队接手了一个智慧工厂项目,2000多个传感器每秒钟产生数万条数据。最初的云端集中处理架构在高并发时延迟飙升到5-8秒,产线实时监控几乎瘫痪。更糟的是,网络抖动导致15%的数据丢失,质量控制形同虚设。
DO_Community
1 个月前
人工智能·aigc·ai编程·ai推理
AI 推理 GPU 选型指南:从 A100 到 L40S 再看 RTX 4000 Ada在当今 AI 推理部署场景中,选择合适的 GPU 已经不仅是“买最强”的问题,而是“任务-匹配 + 预算-优化”的问题。尤其对于高校课题组、研究机构、大模型服务提供商或出海企业而言,一张 GPU 卡既要支撑效率,也要兼顾成本、功耗、稳定性与服务质量。
Hi20240217
6 个月前
嵌入式·rk3588·vulkan·ai推理·armnn
RK3588 ArmNN CPU/GPU ResNet50 FP32/FP16/INT8 推理测试本文在RK3588芯片上完成了以下任务:输出输出输出输出输出输出输出输出
我是有底线的