并发编程高性能计算【免费下载链接】oneTBBoneAPI Threading Building Blocks (oneTBB)项目地址https://gitcode.com/gh_mirrors/on/oneTBB点击查看免费下载导读cache_aligned_resource是 oneAPI Threading Building BlocksoneTBB在 C17 内存资源std::pmr体系中提供的通用内存资源类它作为一层包装器wrapper包裹另一个内存资源确保所有分配的内存都按缓存行边界对齐从而避免伪共享false sharing带来的性能损失。本文将以 cache_aligned_resource_cls.rst 为骨架结合 cache_aligned_allocator.h 头文件源码、allocator.cpp 底层实现与 test_allocators.cpp 测试用例系统讲解该类的构造方式、成员函数语义、缓存行对齐原理、与cache_aligned_allocator及std::pmr生态的关系。读完本文你将掌握如何在 oneTBB 中利用cache_aligned_resource构造缓存行对齐的分配方案并理解其对齐、填充与回收的完整实现机制。cache_aligned_resource 是什么cache_aligned_resource是一个通用目的的内存资源类定义于头文件oneapi/tbb/cache_aligned_allocator.h位于命名空间oneapi::tbb中。它是一个继承自std::pmr::memory_resource的包装器类用户将一个上游内存资源upstream resource交给它由它负责把上游返回的内存地址调整到缓存行边界上再返回给调用方。核心职责有两点缓存行边界对齐所有分配的内存都对齐到缓存行边界避免不同线程访问逻辑上独立、物理上却落在同一缓存行上的数据时发生伪共享作为通用包装器它不自己管理内存池而是把真正的分配/释放动作委托给被包装的上游资源因此可以叠加在任意std::pmr::memory_resource之上使用。类声明摘自 cache_aligned_allocator.h也见文档 cache_aligned_resource_cls.rst// Defined in header oneapi/tbb/cache_aligned_allocator.h namespace oneapi { namespace tbb { class cache_aligned_resource { public: cache_aligned_resource(); explicit cache_aligned_resource( std::pmr::memory_resource* ); std::pmr::memory_resource* upstream_resource() const; private: void* do_allocate(size_t n, size_t alignment) override; void do_deallocate(void* p, size_t n, size_t alignment) override; bool do_is_equal(const std::pmr::memory_resource other) const noexcept override; }; } // namespace tbb } // namespace oneapi注意头文件中该类的实际定义位于tbb::detail::d1命名空间并通过内联命名空间v1以using声明暴露为tbb::cache_aligned_resource见 cache_aligned_allocator.h。文档中以oneapi::tbb形式书写二者指向同一个公开 API。与 cache_aligned_allocator 的关系cache_aligned_resource与模板类cache_aligned_allocatorT解决的是同一类问题——缓存行对齐以避免伪共享但面向不同的使用场景cache_aligned_allocatorT是传统意义上的标准分配器allocator模型满足 ISO C [allocator.requirements] 的要求可直接作为std::vectorT, cache_aligned_allocatorT等容器的模板参数基于元素类型T工作cache_aligned_resource是 C17memory_resource体系中的多态内存资源工作在字节size_t粒度上通过std::pmr::polymorphic_allocator桥接进标准容器。关于伪共享规避的详细背景什么是伪共享、为何按缓存行分配能提升性能文档明确指引读者参考 cache_aligned_allocator_cls.rst当多个逻辑上互不相关的对象落在同一缓存行上而多个线程同时访问它们时处理器硬件不得不像共享同一位置那样在处理器之间搬运缓存行导致远高于预期的内存流量把这些对象分散到不同缓存行即可消除该开销。构造与成员函数语义构造函数文档定义了两个构造函数cache_aligned_resource(); explicit cache_aligned_resource( std::pmr::memory_resource* r );默认构造函数在std::pmr::get_default_resource()之上构造cache_aligned_resource。也就是说不指定上游时实际的字节分配由进程默认资源通常是std::pmr::new_delete_resource即operator new/operator delete完成显式构造函数在用户传入的内存资源r之上构造。explicit关键字禁止隐式转换要求用户明确表达包装意图。源码实现印证cache_aligned_allocator.hcache_aligned_resource() : cache_aligned_resource(std::pmr::get_default_resource()) {} explicit cache_aligned_resource(std::pmr::memory_resource* upstream) : m_upstream(upstream) {}成员m_upstream保存上游资源指针所有分配/释放请求最终都转发给它。upstream_resource()std::pmr::memory_resource* upstream_resource() const;返回底层内存资源的指针。由于cache_aligned_resource本身并不持有内存这个访问器让调用方可以检视或比较真正执行字节分配的上游资源。do_allocate / do_deallocate / do_is_equal这三个private成员函数是std::pmr::memory_resource的纯虚函数重写是整个类的核心机制do_allocate(size_t n, size_t alignment)分配n字节内存地址对齐到缓存行边界实际对齐不小于请求的对齐值。分配可能包含额外的填充字节padding返回指向已分配内存的指针do_deallocate(void* p, size_t n, size_t alignment)释放p指向的内存及其额外填充。p必须是由do_allocate(n, alignment)返回的指针且此前不得被释放过否则行为未定义do_is_equal(const std::pmr::memory_resource other) const noexcept比较*this与other的上游内存资源。若other不是cache_aligned_resource返回false。注意do_allocate/do_deallocate/do_is_equal是受保护/私有接口用户一般通过std::pmr::memory_resource的公开包装方法allocate/deallocate/is_equal间接调用这也是标准内存资源体系的标准用法。源码级原理缓存行对齐是如何实现的对齐与大小修正在 cache_aligned_allocator.h 中cache_aligned_resource通过两个辅助函数修正对齐与大小std::size_t correct_alignment(std::size_t alignment) { __TBB_ASSERT(tbb::detail::is_power_of_two(alignment), Alignment is not a power of 2); #if __TBB_CPP17_HW_INTERFERENCE_SIZE_PRESENT std::size_t cache_line_size std::hardware_destructive_interference_size; #else std::size_t cache_line_size r1::cache_line_size(); #endif return alignment cache_line_size ? cache_line_size : alignment; } std::size_t correct_size(std::size_t bytes) { // To handle the case, when small size requested. There could be not // enough space to store the original pointer. return bytes sizeof(std::uintptr_t) ? sizeof(std::uintptr_t) : bytes; }correct_alignment的逻辑断言请求的对齐必须是 2 的幂is_power_of_two见 detail/_utils.h确定缓存行大小若编译器支持 C17 的std::hardware_destructive_interference_size则使用该常量否则回退到运行时函数r1::cache_line_size()取max(alignment, cache_line_size)——若请求对齐小于缓存行就提升到缓存行大小从而保证“对齐不小于请求值”的契约。correct_size则处理小对象请求由于对齐时需要把原始块起始地址记录在返回指针的前一个uintptr_t位置见下文若请求字节数小于sizeof(std::uintptr_t)则至少要分配一个指针大小的空间否则没有足够空间存放头部指针。分配流程do_allocate的实现cache_aligned_allocator.hvoid* do_allocate(std::size_t bytes, std::size_t alignment) override { std::size_t cache_line_alignment correct_alignment(alignment); std::size_t space correct_size(bytes) cache_line_alignment; std::uintptr_t base reinterpret_caststd::uintptr_t(m_upstream-allocate(space)); __TBB_ASSERT(base ! 0, Upstream resource returned nullptr.); // Round up to the next cache line (align the base address) std::uintptr_t result align_to_greater(base, cache_line_alignment); __TBB_ASSERT((result - base) sizeof(std::uintptr_t), Cant store a base pointer to the header); __TBB_ASSERT(space - (result - base) bytes, Not enough space for the storage); // Record where block actually starts. (reinterpret_caststd::uintptr_t*(result))[-1] base; return reinterpret_castvoid*(result); }分配步骤可以拆解为向上游请求的总空间为correct_size(bytes) cache_line_alignment其中额外的缓存行大小空间用于容纳对齐偏移用align_to_greater(base, cache_line_alignment)把上游返回的基地址向上取整到下一个缓存行边界align_to_greater定义于 detail/_utils.h。由于额外多分配了一个缓存行大小对齐后剩余空间必然不小于请求字节数在返回地址的前一个uintptr_t槽位记录真正的块起始地址base即(result)[-1] base供释放时恢复返回对齐后的地址result。两个断言分别保证头部槽位有空间可写、且剩余空间足以容纳bytes。释放流程do_deallocate的实现cache_aligned_allocator.hvoid do_deallocate(void* ptr, std::size_t bytes, std::size_t alignment) override { if (ptr) { // Recover where block actually starts std::uintptr_t base (reinterpret_caststd::uintptr_t*(ptr))[-1]; m_upstream-deallocate(reinterpret_castvoid*(base), correct_size(bytes) correct_alignment(alignment)); } }释放时从ptr的前一个槽位恢复真正的起始地址base并以“修正后的大小 修正后的对齐”作为总尺寸归还给上游资源。由于分配与释放使用完全相同的修正函数尺寸严格匹配满足memory_resource的契约。这也解释了文档中“指针p必须由do_allocate(n, alignment)获得且不得提前释放”的要求——头部槽位存放的是私有元数据任意指针都会导致非法读取。相等性比较do_is_equal的实现cache_aligned_allocator.hbool do_is_equal(const std::pmr::memory_resource other) const noexcept override { if (this other) { return true; } #if __TBB_USE_OPTIONAL_RTTI const cache_aligned_resource* other_res dynamic_castconst cache_aligned_resource*(other); return other_res (upstream_resource() other_res-upstream_resource()); #else return false; #endif }逻辑要点若other就是*this自身直接返回true在启用可选 RTTI__TBB_USE_OPTIONAL_RTTI时通过dynamic_cast判断other是否同为cache_aligned_resource再比较两者的upstream_resource()指针是否相同若other不是cache_aligned_resource返回false若编译配置关闭了可选 RTTI则除自身比较外一律返回false。这正对应文档所述“如果other不是cache_aligned_resource返回 false”的语义。底层运行时支撑缓存行大小与分配器选择correct_alignment在无法使用std::hardware_destructive_interference_size时会调用运行时函数r1::cache_line_size()。该函数定义于 allocator.cpp// TODO: use CPUID to find actual line size, though consider backward compatibility // nfs - no false sharing static constexpr std::size_t nfs_size 128; std::size_t __TBB_EXPORTED_FUNC cache_line_size() { return nfs_size; }当前实现把缓存行大小固定为 128 字节的编译期常量注释nfs意为 no false sharing并注明未来可考虑用 CPUID 探测真实行大小、同时兼顾向后兼容。另一个值得注意的底层机制是分配器选择。oneTBB 的运行时通过dynamic_link机制尝试动态链接tbbmalloc库如libtbbmalloc.so.2将scalable_aligned_malloc/scalable_aligned_free绑定为缓存行分配/释放处理函数若链接失败则回退到标准库实现Linux 上的memalign/posix_memalign、Windows 上的_aligned_malloc或通用的“malloc 手工对齐”路径。这一初始化逻辑见 allocator.cpp说明cache_aligned_resource在对齐路径上同样受益于可扩展内存分配器而其自身只负责“对齐 填充”这一层职责真正的内存获取始终委托给上游。实际使用如何与 std::pmr 生态集成cache_aligned_resource的典型用法是通过std::pmr::polymorphic_allocator把它接入标准容器。测试用例 test_allocators.cpp 演示了完整模式TEST_CASE(polymorphic_allocator test) { tbb::cache_aligned_resource aligned_resource; tbb::cache_aligned_resource equal_aligned_resource(std::pmr::get_default_resource()); REQUIRE_MESSAGE(aligned_resource.is_equal(equal_aligned_resource), Underlying upstream resources should be equal.); REQUIRE_MESSAGE(!aligned_resource.is_equal(*std::pmr::null_memory_resource()), Cache aligned resource upstream shouldnt be equal to the standard resource.); TestAllocatorWithSTL(std::pmr::polymorphic_allocatorvoid(aligned_resource)); }这段测试验证了三个关键点默认构造等价性默认构造的aligned_resource与显式传入std::pmr::get_default_resource()构造的资源是相等的is_equal返回真印证默认构造函数委托给默认资源的实现不同上游可区分与std::pmr::null_memory_resource不相等容器可用性std::pmr::polymorphic_allocatorvoid包装aligned_resource后能通过 oneTBB 的 STL 容器适配测试TestAllocatorWithSTL证明该资源满足内存资源接口的全部要求。conformance 测试 conformance_allocators.cpp 也做了同样的验证说明该接口属于受规格约束specification约束的公开行为。实际接入容器的示例写法#include oneapi/tbb/cache_aligned_allocator.h #include memory_resource #include vector // 1) 基于默认资源的缓存行对齐资源 tbb::cache_aligned_resource resource; // 2) 或显式指定上游例如使用同步池化资源 std::pmr::unsynchronized_pool_resource pool; tbb::cache_aligned_resource pooled_resource(pool); // 3) 通过 polymorphic_allocator 接入标准容器 std::pmr::vectorint vec(std::pmr::polymorphic_allocatorint(resource));由于std::pmr::vector是std::vectorT, polymorphic_allocatorT的别名容器内所有元素分配都会经过cache_aligned_resource的do_allocate从而获得缓存行边界对齐。这也意味着可以自由组合既可以把cache_aligned_resource包装在std::pmr::unsynchronized_pool_resource、monotonic_buffer_resource等标准资源之上也可以把它包装在 oneTBB 的可扩展内存池之上实现“池化 缓存行对齐”的复合方案。使用成本与注意事项文档在 cache_aligned_allocator_cls.rst 中对同类分配器明确指出缓存行对齐的收益以隐式填充内存为代价。这一结论同样适用于cache_aligned_resource每次do_allocate都会在上游请求correct_size(bytes) cache_line_alignment字节其中至多一个缓存行大小当前为 128 字节用于对齐偏移因此大量分配小对象会显著增加内存占用——每个小对象都可能多消耗接近一个缓存行的空间。若对象平均大小很小且不涉及跨线程共享访问使用普通资源反而更省内存适合场景是多个线程频繁访问的、逻辑上独立的热点数据结构如每个线程私有的计数槽、状态标志把它们对齐到不同缓存行可避免伪共享带来的额外内存流量。此外还有几点使用约束需要遵守alignment必须是 2 的幂否则会触发断言释放时n与alignment必须与分配时一致这是memory_resource的标准契约不允许提前释放或释放非本类分配的指针该类的可用性依赖 C17 及__TBB_CPP17_MEMORY_RESOURCE_PRESENT特性开关见 cache_aligned_allocator.h 与 cache_aligned_allocator.h在不支持memory_resource的编译环境中该类不会暴露。总结cache_aligned_resource是 oneTBB 在 C17 内存资源体系中的缓存行对齐包装器要素说明头文件oneapi/tbb/cache_aligned_allocator.h实现于 cache_aligned_allocator.h基类std::pmr::memory_resource需 C17memory_resource支持上游默认值std::pmr::get_default_resource()对齐策略max(请求对齐, 缓存行大小)缓存行大小优先取std::hardware_destructive_interference_size否则回退到运行时常量 128 字节填充策略多请求一个缓存行大小的空间用于对齐偏移头部槽位记录真实基址相等语义基于上游资源指针比较非cache_aligned_resource一律不等典型用法经std::pmr::polymorphic_allocator接入std::pmr容器或包装其他内存资源实现复合分配方案主要代价小对象隐式填充内存占用增加它把“避免伪共享”这一 oneTBB 经典内存策略无缝带入了 C17 标准内存资源生态让开发者既能享受std::pmr的多态资源组合能力又能获得缓存行对齐的性能保障。深入阅读 cache_aligned_allocator_cls.rst 可进一步了解缓存行对齐分配器的完整契约参考 test_allocators.cpp 与 conformance_allocators.cpp 可以看到覆盖该资源全部公开行为的测试用例。赞分享并发编程高性能计算【免费下载链接】oneTBBoneAPI Threading Building Blocks (oneTBB)项目地址https://gitcode.com/gh_mirrors/on/oneTBB点击查看免费下载相关推荐mold 项目内嵌 oneTBB 的 cache_aligned_resource基于 PMR 的缓存行对齐内存资源全解析mold 项目内嵌 oneTBB 的 cache_aligned_resource基于 PMR 的缓存行对齐内存资源全解析 导读 cache_aligned_开发工具构建工具系统编程LinkSwift 网盘直链下载助手指南9 大网盘直链获取与 5 种下载方式LinkSwift 网盘直链下载助手指南9 大网盘直链获取与 5 种下载方式 从网盘网页下载文件时浏览器经常只能触发另存为或卡在限速页面上拿不到文件真并发编程高性能计算oneTBB fixed_pool 详解基于固定大小缓冲区的可扩展内存池oneTBB fixed_pool 详解基于固定大小缓冲区的可扩展内存池 fixed_pool 是 oneAPI Threading Building Blo并发编程高性能计算上一篇douyin-downloader 实战抖音无水印批量下载15 分钟从安装到出结果下一篇如何高效禁用Windows Defender开源工具defender-control的完整指南创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
` 替代 findViewById)
