片上多核处理器共享资源分配与调度策略研究综述（一）

摘要： 对于片上多核处理器，如何在多线程间公平有效地分配调度有限的共享资源是一个很重要的问题。随着处理器核规模的增长，多线程对于系统中有限的共享资源的争夺将愈发激烈，由此导致的对于系统性能的影响也将更加显着。为了缓解乃至解决这一问题，除了增加可用共享资源外，一个能够公平有效地在多线程间分配共享资源的调度算法也至关重要。在各类共享资源中，对于系统性能有着最大影响的是共享缓存和DRAM 系统。对于共享缓存，可以通过缓存分区，来降低由于线程间的争夺所带来的影响;对于DRAM系统，可以采取适当的调度算法来调节各个线程发出的访存请求的服务优先级，从而改善系统性能。首先分别以系统吞吐量和公平性为优化目标介绍了一系列对共享缓存的分区调度算法，并针对缓存分区粒度过大的问题给出了相关解决方案。然后从利用线程的访存行为特征和借鉴网络路由算法等多个角度介绍了DRAM 的调度算法。接下来，研究了从全局出发的联合调度算法，以解决针对不同共享资源的调度算法间相互矛盾的问题。最后，从不同角度对于今后的研究进行了展望。

引言

随着集成电路工艺的发展，片上多核处理器(chip multi-processor, CMP)开始占据市场，在一个CMP 上并发地执行多个线程成为主流趋势。CMP上的多个核/线程通常共享最后一级缓存(lastlevel cache,LLC)、DRAM 控制器、主存总线带宽和预取部件(prefetching hardware)等多种资源。

系统中的共享资源总是有限的，线程间需要争夺共享资源的使用权。不同的线程其程序特征(在本文中主要指访存行为)存在差异，而线程争夺共享资源的能力通常与此相关。如果没有特别的调度机制，某些线程可能占用大部分乃至全部的系统资源，导致其他线程的请求得不到服务，最终对系统的性能(吞吐量和公平性)造成影响。

如果存在一个调度策略能够在多个并行线程间公平有效地分配共享资源，则可以缓解由于对共享资源的争夺所带来的负面影响，从而改善系统性能。

因此，在CMP 系统中对共享资源的分配调度成为一个值得研究的热点问题。

在CMP 系统中，最为重要的共享资源是其共享存储系统(主要包括共享缓存和主存带宽)。当线程的访存请求得不到服务时，由于所需数据没有及时返回，相关处理器核将会一直处于阻塞等待状态，导致计算资源的浪费，对系统性能会造成巨大影响。

学术界当前的研究重点也主要集中在共享缓存和主存带宽的分配调度上，因此，本文将从这两个方面对CMP 系统的共享资源调度问题进行阐述。

当私有缓存空间不够用时，程序将访问共享缓存，线程间会争夺有限的共享缓存空间。常用的最近最少使用替换算法(least recently used,LRU)不区分访存请求来自哪个线程，同等对待所有访存请求，当需要发生缓存替换时，总是逐出最近访问频率最低的缓存块。因此，多个线程实际上是在自由竞争共享缓存空间的使用权。一些能够快速产生大量缓存失效的线程可能替换掉其他线程的有效数据，独占大部分乃至全部缓存空间。缓存空间在线程间的分配方式不当会导致部分线程或总的缓存失效率急剧上升，影响到系统的性能。现有的研究大多通过缓存分区来解决这个问题。由于不同线程在不同的时刻对缓存空间的需求并不一样，简单地将共享缓存平均分给各个线程并不能有效解决问题。

制定相应的分区策略，根据程序运行中的动态特征把缓存空间适当分配给各个线程，从而尽量避免线程间对缓存的争夺，同时满足线程各自的缓存需求，从而改善系统性能。基于这种动态缓存分区的概念，学术界为改善系统性能，分别以提高系统吞吐量和改善系统公平性为优化目标提出了各类缓存分区策略。

当发生最后一级缓存失效时，访存请求需要读写主存，即动态随机存储器(dynamic random-accessmemory,DRAM)，而DRAM 的访存带宽是有限的。来自不同线程的访存请求间存在相互依赖和制约的关系，延时情况会由于线程间的干扰(interface)加剧，进而导致带宽利用率低。任由多个线程自由争夺有限的访存带宽，会降低系统性能。通过DRAM控制器充分利用DRAM 的结构特点和线程的访存行为特征对访存请求的服务优先级进行合理的调度可以降低延迟，提高带宽利用率，进而改善系统性能。因此，学术界对于多线程环境中的有效访存调度策略也进行了大量研究。

单独针对一类共享资源各自提出调度策略，从全局效果来看可能相互矛盾，达不到优化目的。因此，在一些关于共享资源调度策略的研究中，需要综合考虑各类共享资源，进行联合调度。

为了深入理解CMP 系统中共享资源的分配调度策略、存在的问题以及应用前景，以便更好地应对随着CMP 系统规模增大而带来的调度复杂度，对CMP 系统中共享资源的分配调度策略进行综述是具有重要意义的。本文首先介绍了基于缓存分区的共享缓存分配调度策略的基本思想和特点，然后介绍了采用不同性能优化目标的缓存分区方案的研究进展，接下来我们研究了DRAM 的访存调度算法，之后对于系统中多种共享资源的联合调度算法进行了介绍。最后，对CMP 系统中共享资源的分配调度策略未来可以开展的研究方向进行了展望。