什么是伪共享?

什么是伪共享?

伪共享(False Sharing)是多线程编程中的一种性能问题,它发生在多个线程同时访问不同的变量,但这些变量却共享同一缓存行(cache line)时。尽管这些变量并不相互依赖,但由于它们的存储位置在缓存中靠得很近,导致处理器频繁地无效化(invalidate)缓存行,从而影响性能。

缓存行的基本概念

在现代计算机中,CPU 使用缓存来提高内存访问速度。缓存通常分为多个层次(L1、L2、L3),每个层次的容量和访问速度各不相同。CPU 从主内存读取数据时,通常是以缓存行(通常是 64 字节)为单位进行读取的。这意味着,访问缓存行中的一个字节将导致整个缓存行被加载到 CPU 的缓存中。

伪共享的发生

伪共享通常发生在以下情况下:

  1. 多个线程:多个线程并发地访问和修改不同的变量。
  2. 相同的缓存行:这些变量位于同一个缓存行内,导致 CPU 每次更新某个变量时都要使得包含其他变量的缓存行失效。

例如,考虑以下代码:

cpp 复制代码
#include <iostream>
#include <thread>
#include <vector>
#include <chrono>

const int NUM_THREADS = 4;
const int NUM_ITERATIONS = 10000000;

struct Data {
    int a; // 变量 a
    int b; // 变量 b
    // 可能存在伪共享
};

Data data[NUM_THREADS];

void increment(int index) {
    for (int i = 0; i < NUM_ITERATIONS; ++i) {
        data[index].a++; // 线程修改 a
        data[index].b++; // 线程修改 b
    }
}

int main() {
    std::vector<std::thread> threads;
    for (int i = 0; i < NUM_THREADS; ++i) {
        threads.emplace_back(increment, i);
    }

    for (auto& t : threads) {
        t.join();
    }

    return 0;
}

在这个示例中,data 数组的每个元素都有两个整数变量 a 和 b。假设这两个变量存储在同一个缓存行中,当多个线程同时修改 a 和 b 时,可能会导致伪共享。这是因为每个线程在更新 a 时,可能会导致存储 b 的缓存行失效,从而引发频繁的缓存行无效化。

伪共享的影响

伪共享会导致以下几个问题:

  1. 性能下降:由于频繁的缓存行无效化,CPU 可能会花费大量时间在数据一致性上,从而影响整体性能。
  2. 增加的延迟:每次访问共享缓存行时,CPU 需要等待,从而增加了延迟。
  3. 吞吐量降低:在多线程环境中,伪共享可能导致 CPU 的利用率下降,影响吞吐量。

如何避免伪共享

避免伪共享的方法主要包括:

  1. 内存对齐 :通过确保变量在内存中对齐到缓存行边界,可以减少伪共享的发生。例如,使用 alignas 关键字来对齐结构体。

    cpp 复制代码
    struct alignas(64) Data {
        int a;
        int b;
    };
  2. 增加缓存行的使用:将变量放置在不同的缓存行中,可以有效避免伪共享。例如,在结构体中添加填充变量(padding)以确保不同变量位于不同的缓存行。

    cpp 复制代码
    struct Data {
        int a;
        char padding[60]; // 填充到 64 字节
        int b;
    };
  3. 分离数据结构:在多线程应用中,将数据分散到不同的结构体中,每个线程使用独立的结构体,避免共享数据。

  4. 使用原子操作 :在某些情况下,可以使用原子操作(如 std::atomic)来减少对共享变量的直接访问,降低伪共享的风险。

总结

伪共享是多线程编程中的一个常见性能问题,它发生在多个线程同时访问位于同一缓存行中的不同变量时。通过合理的内存对齐和数据结构设计,可以有效避免伪共享,提升多线程应用的性能。在进行高性能多线程开发时,了解伪共享及其影响至关重要。

相关推荐
金銀銅鐵7 小时前
[Java] 用 GUI 展示 EnumSet 增减元素时的内部变化(上)
java·后端·ai编程
念何架构之路7 小时前
go-grpc设计思想
开发语言·后端·golang
system_error_x8 小时前
SpringBoot 集成 Thymeleaf 简洁入门
java·spring boot·后端
步行cgn9 小时前
Spring MVC 视图机制的核心接口与类
java·开发语言·后端·spring·mvc
码事漫谈10 小时前
AI 读你的提示词,其实很没耐心
后端
用户83562907805111 小时前
如何使用 Python 格式化 Excel 单元格中的长文本
后端·python
我命由我1234511 小时前
Python 开发 - Python 的 pathlib
java·开发语言·后端·python·学习·java-ee·学习方法
IT_陈寒11 小时前
Java性能优化完全指南
前端·人工智能·后端
电子IT笔记11 小时前
对接群晖NAS,上传和删除踩坑记录
前端·后端
Mk5987811 小时前
P4:把 Agent 的记忆搬进 Redis —— AgentScope-Java 工程化实战
后端