高效轻型线程助力提高Linux实时性能

简介

　　上个世纪，研发人员投入了大量精力提高Linux实时性能和行为，最著名的是PREEMPT_RT Linux实时扩展。最近，研发人员致力于研究适用于多核设备的Linux用户空间解决方案，该解决方案允许从用户空间中直接访问基础硬件，从而可避免因将Linux内核引入用户空间应用而带来的额外系统开销。这些用户空间扩展（有多个）已首先由电信/网络高性能 IP 数据包处理系统进行驱动，以实现所谓的"裸金属"实施，其中，多核设备中的Linux用户空间应用可以模拟"无操作系统"解决方案的执行过程，即在每个内核上进行简单"运行到完成"、轮询循环，以便进行数据包处理。在从根本上实现该目标的同时，该解决方案仍可用于非常特殊的用例。还有其他需要提高性能的用例无法通过以上解决方案完全解决吗？如果有的话，请列举出来，是否可应用更完善的Linux实时改进？答案是肯定的，采用Linux用户空间轻型线程 （light-weight threading, LWT） 即可。我们来研究一下实时 Linux,以及轻型线程如何能成为适用于某些应用的解决方案。研究的重点受电信、网络或常用通信应用的影响，Enea侧重于这些应用中采用的技术。但总体上来说，对轻型线程的重点应用会使多方受益。

　　实时Linux及其解决的问题

　　在过去的10 年中，Linux 已在实时性能和行为方面取得了显著的进步，满足了大量应用的需求。具体归纳如下：

　　PREEMPT_RT

　　PREEMPT_RT也许是Linux实时扩展取得的最显著的成就，PREEMPT_RT数据包解决了多核设备Linux中存在的特别棘手的问题，即"中断延迟"问题。将事件/数据传送到真实用户空间应用之前，处理Linux内核中的中断占用的系统开销非常高 - 该系统开销往往会延迟其他中断，从而增大发生中断时测得的中断信息接收方进行处理的总体延迟。同样，Linux内核中还有许多所谓的"重要部分",可在其中通过自旋锁禁用中断。标准Linux内核的总体中断延迟与许多实时应用的最重要的中断延迟要求不符，特别是无线接入网（移动）和移动核心基础设施，这两者要求最差情况下的中断延迟应在20-30微秒范围内。这一点也适用于许多其他市场应用。在快速"nutshell"PREEMPT_RT中，这一问题是通过以下方式解决的：

　　●将全部设备驱动器中断句柄传递到可调度线程中，这样可最大程度地减少Linux内核对中断的处理工作，因此，无需等待前一中断处理完成便可处理新中断。之后，中断处理会变为受优先级驱动，根据用户需求，会先完成优先级最高的中断处理。

　　●将Linux内核中的所有死空间自旋锁传递到互斥量中，从而允许其他内核线程代替内核空间自旋锁运行。

　　基本上，PREEMPT_RT已根据非常高性能的实时标准将总体中断延迟成功缩短，这样对大量Linux应用都非常有帮助。要了解具体应用？请继续往下读。

　　用户空间Linux调整

　　如上文所述，近年来，研发人员对Linux用户空间应用投入了大量精力。目的是避免用户空间应用（Linux 用户对其附加价值投入了大量精力）占用Linux内核本身的系统开销来处理某些特定的设备/中断交互。Linux采用的模型可极大程度地防止用户空间应用受到内核的影响，在该模型中，所有用户空间操作（包括线程）始终会映射到Linux内核，以便处理其I/O请求。这样便Linux具有强大的行为和特性。但是，对于数据处理性能非常高的应用来说，即使采用PREEMPT_RT,Linux也会有短时故障，这是因为，总是需要进行Linux内核上下文切换才能直接访问硬件。用户空间Linux实施允许应用在不涉及Linux内核的情况下直接访问硬件和中断，并可极大程度地提高性能。但这种性能提升只能在I/O密度极高的环境中实现。大部分Linux用户空间调整都侧重于单线程应用（如高性能数据包处理），其中，Linux下只有一个线程用于模拟多核设备中的"无操作系统"性能。

　　多线程问题

　　实时Linux解决方案调查中缺少的是认真检查多线程在实时嵌入式应用中的有效性。实际上，早在20世纪80年代Linux出现之前，人们就提出了需要采用嵌入式实时操作系统（RTOS） 来实现低延迟、高吞吐量、极具实时特点的应用。操作系统的结构发生了变化，但对这方面的需求却没有改变。此类RTOS解决方案所具有的各种性能、行为和特性是过去十多年中Linux一直尝试达到的。这并不意味着倾向于恢复使用RTOS,而是要达到RTOS所具有的功能。就便携性、应用的广阔生态系统以及设备支持和常规支持来讲，Linux在实时嵌入式解决方案中的总体价值是任何RTOS都无法比拟的。存在两个实际问题：

　　●多线程为何重要？

　　●如果多线程很重要，那么我们应如何将RTOS多线程性能、行为和特性添加到Linux中，以便取得更大的成功？关键问题是了解Linux多线程实施与RTOS,然后考虑可以进行哪些改进。

　　多线程为何重要？

　　30多年前，当计算机解决方案软件设计人员碰到单线程解决方案无法解决的复杂问题时，便已提出了对多线程实时性方面的需求。所需解决方案要求单个应用具有多个任务，也许一些是计算任务，一些是受I/O驱动的任务，但是，就任务的总体执行而言，所有任务均密切相关。但多个任务密切相关意味着这些任务应共享一部分CPU时间才能达到CPU的有效总体利用率。在很多此类应用中，必须禁止执行某些操作、等待某些I/O事件或另一应用发出的其他通信。因此出现了简单的可执行程序，这些可执行程序可以处理多个线程，同时可禁用线程，并可在各线程之间进行低延迟通信。

　　并非所有实时应用都需要支持重要的多线程处理功能。本文并未对相关应用进行分类。但很显然，需要使用多线程处理功能的应用是那些需要在协议中设定"等待状态"的任何类型的复杂协议，即等待允许应用继续进行的响应或事件。之后，应用应放弃对CPU的控制权，允许运行其他类似的线程，来代替该响应或事件。

　　也许上述教程对于许多人来说很简单。请注意，很多移动基础设施和核心网络设备供应商得出的结论是，虽然Linux是当前或未来系统的首选，但目前构建的Linux还不足以满足业界的全部要求。原因是什么？