通过轻型线程提高多核设备中的Linux实时性能

简介

       上个世纪，研发人员投入了大量精力提高 Linux 实时性能和行为，最著名的是 PREEMPT_RT Linux 实时扩展。最近，研发人员致力于研究适用于多核设备的 Linux 用户空间解决方案，该解决方案允许从用户空间中直接访问基础硬件，从而可避免因将 Linux 内核引入用户空间应用而带来的额外系统开销。这些用户空间扩展（有多个）已首先由电信/网络高性能 IP 数据包处理系统进行驱动，以实现所谓的“裸金属”实施，其中，多核设备中的 Linux 用户空间应用可以模拟“无操作系统”解决方案的执行过程，即在每个内核上进行简单“运行到完成”、轮询循环，以便进行数据包处理。在从根本上实现该目标的同时，该解决方案仍可用于非常特殊的用例。还有其他需要提高性能的用例无法通过以上解决方案完全解决吗？如果有的话，请列举出来，是否可应用更完善的 Linux 实时改进？答案是肯定的，采用 Linux 用户空间轻型线程 (light-weight threading, LWT) 即可。我们来研究一下实时 Linux，以及轻型线程如何能成为适用于某些应用的解决方案。研究的重点受电信、网络或常用通信应用的影响，Enea 侧重于这些应用中采用的技术。但总体上来说，对轻型线程的重点应用会使多方受益。

实时 Linux 及其解决的问题

       在过去的 10 年中，Linux 已在实时性能和行为方面取得了显著的进步，满足了大量应用的需求。具体归纳如下：

PREEMPT_RT

       PREEMPT_RT 也许是 Linux 实时扩展取得的最显著的成就，PREEMPT_RT 数据包解决了多核设备 Linux 中存在的特别棘手的问题，即“中断延迟”问题。将事件/数据传送到真实用户空间应用之前，处理Linux内核中的中断占用的系统开销非常高 - 该系统开销往往会延迟其他中断，从而增大发生中断时测得的中断信息接收方进行处理的总体延迟。同样，Linux 内核中还有许多所谓的“重要部分”，可在其中通过自旋锁禁用中断。标准Linux 内核的总体中断延迟与许多实时应用的最重要的中断延迟要求不符，特别是无线接入网（移动）和移动核心基础设施，这两者要求最差情况下的中断延迟应在 20-30 微秒范围内。这一点也适用于许多其他市场应用。在快速“nutshell”PREEMPT_RT 中，这一问题是通过以下方式解决的：

       将全部设备驱动器中断句柄传递到可调度线程中，这样可最大程度地减少 Linux 内核对中断的处理工作，因此，无需等待前一中断处理完成便可处理新中断。之后，中断处理会变为受优先级驱动，根据用户需求，会先完成优先级最高的中断处理。

       将 Linux 内核中的所有死空间自旋锁传递到互斥量中，从而允许其他内核线程代替内核空间自旋锁运行。

       基本上，PREEMPT_RT 已根据非常高性能的实时标准将总体中断延迟成功缩短，这样对大量 Linux 应用都非常有帮助。要了解具体应用？请继续往下读。

用户空间 Linux 调整

       如上文所述，近年来，研发人员对 Linux 用户空间应用投入了大量精力。目的是避免用户空间应用（Linux 用户对其附加价值投入了大量精力）占用 Linux 内核本身的系统开销来处理某些特定的设备/中断交互。Linux 采用的模型可极大程度地防止用户空间应用受到内核的影响，在该模型中，所有用户空间操作（包括线程）始终会映射到 Linux 内核，以便处理其 I/O 请求。这样便使 Linux 具有强大的行为和特性。但是，对于数据处理性能非常高的应用来说，即使采用 PREEMPT_RT，Linux 也会有短时故障，这是因为，总是需要进行 Linux 内核上下文切换才能直接访问硬件。用户空间 Linux 实施允许应用在不涉及 Linux 内核的情况下直接访问硬件和中断，并可极大程度地提高性能。但这种性能提升只能在 I/O 密度极高的环境中实现。大部分 Linux 用户空间调整都侧重于单线程应用（如高性能数据包处理），其中，Linux 下只有一个线程用于模拟多核设备中的“无操作系统”性能。

多线程问题

       实时 Linux 解决方案调查中缺少的是认真检查多线程在实时嵌入式应用中的有效性。实际上，早在 20 世纪 80 年代 Linux 出现之前，人们就提出了需要采用嵌入式实时操作系统 (RTOS) 来实现低延迟、高吞吐量、极具实时特点的应用。操作系统的结构发生了变化，但对这方面的需求却没有改变。此类 RTOS 解决方案所具有的各种性能、行为和特性是过去十多年中 Linux 一直尝试达到的。这并不意味着倾向于恢复使用 RTOS，而是要达到 RTOS 所具有的功能。就便携性、应用的广阔生态系统以及设备支持和常规支持来讲，Linux 在实时嵌入式解决方案中的总体价值是任何 RTOS 都无法比拟的。存在两个实际问题：

多线程为何重要？

       如果多线程很重要，那么我们应如何将 RTOS 多线程性能、行为和特性添加到 Linux 中，以便取得更大的成功？关键问题是了解 Linux 多线程实施与 RTOS，然后考虑可以进行哪些改进。

       30 多年前，当计算机解决方案软件设计人员碰到单线程解决方案无法解决的复杂问题时，便已提出了对多线程实时性方面的需求。所需解决方案要求单个应用具有多个任务，也许一些是计算任务，一些是受 I/O 驱动的任务，但是，就任务的总体执行而言，所有任务均密切相关。但多个任务密切相关意味着这些任务应共享一部分 CPU 时间才能达到 CPU 的有效总体利用率。在很多此类应用中，必须禁止执行某些操作、等待某些 I/O 事件或另一应用发出的其他通信。因此出现了简单的可执行程序，这些可执行程序可以处理多个线程，同时可禁用线程，并可在各线程之间进行低延迟通信。

       并非所有实时应用都需要支持重要的多线程处理功能。本文并未对相关应用进行分类。但很显然，需要使用多线程处理功能的应用是那些需要在协议中设定“等待状态”的任何类型的复杂协议，即等待允许应用继续进行的响应或事件。之后，应用应放弃对 CPU 的控制权，允许运行其他类似的线程，来代替该响应或事件。

       也许上述教程对于许多人来说很简单。请注意，很多移动基础设施和核心网络设备供应商得出的结论是，虽然 Linux 是当前或未来系统的首选，但目前构建的 Linux 还不足以满足业界的全部要求。原因是什么？

采用 PTHREADS 的 Linux 多线程

       Pthreads 是由 IEEE 规划的可移植操作系统接口 (POSIX) 创建的，目的是为了解决 Unix 中存在的高性能、多线程问题，之后被 Linux 用在最早的版本中，用于为企业实施可移植 Unix，目前用于嵌入式应用中。

       创建 pthreads 模型是为了解决原始 Unix Fork/Join 模型创建 Unix“子”进程时出现的问题。由于该模型涉及到创建（还可能涉及删除）整个受内存保护的环境及执行模式，因此Unix 进程模型非常庞大。需要在 Unix 下采用适用于多线程的较轻型模型，因此pthreads应运而生。

       Unix（也包括 Linux）模型是专为将内核与用户空间应用完全分离而设计的，其优势之一在于提供的保护、安全性和可靠性远胜于其他实施方案（包括过去 10 几年间使用的 RTOS）。实质上，这意味着 Linux 用户空间中的每个 pthread 都会由 Linux 内核线程表示，因此，全部或大部分 Linux 系统调用（特别是设备驱动器）均可通过用户空间进行访问。但是，由于 OEM 制造的产品并不具备 GPL，因此用户空间中实际存储了所有嵌入式 Linux 实时应用。因此，在每种情况下，使用 pthreads 都涉及到调用 Linux 内核，从而为本可以在本地实施的应用带来了额外的系统开销。

       请您稍稍考虑一下。采用上文提到的 Linux 实时扩展怎么样？是的，PREEMPT_RT 可以解决 Linux 内核中存在的许多关于响应性的问题，但不能真正解决多线程问题。实施用户空间 Linux 可解决设备驱动器/中断性能问题，但并不能真正解决多线程问题。Linux 实时容器可解决部分问题，但实时容器只是一种基于标准 Linux 的用户空间 Linux 可视化技术，并不能真正解决根本的多线程问题。

轻型线程 (LWT) – 复杂 Linux 应用的真正解决方案
       之前针对 Linux 提出了多种轻型线程模型的建议，但没有一种模型能够真正解决问题。原因何在？因为大多数模型的功能都不是很强大。涉及复杂多线程应用的下一代 Linux 解决方案真正需要的是适用于用户空间 Linux 应用的全新 Linux 模型。下文概括介绍了这种名为Linux轻型线程 (LWT) 的解决方案。将高性能、低系统开销、多线程调度器植入 Linux 用户空间，来代替单独的 pthread。原因何在？

Pthread 系统开销

    进程和 pthreads 是 Linux 了解的唯一调度实体。

    LWT pthread 只是一个 Linux 编码执行背景，可用于永久运行 pthread。由于用户空间调度器始终保持控制，因此 pthread 绝不会被挂起 – 省电模式除外。这种情况不在本文的讨论范围。

    该用户空间调度器的运行和操作方式与某些传统 RTOS 高性能、低延迟实施完全相同，但不会涉及到 Linux 内核。

    实施过程利用新用户空间 Linux 实施过程来直接访问硬件。同样也不涉及 Linux 内核。

    上述 LWT 解决方案可在任何 Linux 实时应用中实现动态性能的提升。Enea 已设计出上述 LWT 的一些原型，事实证明，与 Linux pthreads 在调度器系统开销、特别是上下文切换和线程间消息发送/通信延迟方面的性能相比，LWT 性能可提高 10 倍。

    但是除了调度性能和线程间通信功能之外，LWT 解决方案还应带来什么？LWT 概念除了在性能方面胜过 Linux pthreads 之外，还有更多优势。解决方案稳健性的概念如何？与历史悠久的 RTOS 实时解决方案一样，LWT 也需要具有以下额外 Linux 特性：

决定性调度

调度系统开销低 – 上下文切换成本低

线程间信号系统开销低

线程创建成本低

多核设备中 Linux 轻型线程模型的结构图

LWT 实施方案的结构图如下。涉及整个共享内存空间的 Linux 进程可能跨多核设备的多个内核。为了达到最高效率，LWT 模型需要将 Linux 进程中的单个 pthread 锁定至某一个内核，但并不特别要求这样做。LWT 锁定至 pthread 之后，便可迁移到 Linux SMP 需要的任何内核中。

                                图 1： 多核设备中 Linux 轻型线程模型的结构图

结论

高效轻型线程 (LWT) 将成为下一个 Linux 实时性能和行为问题。需要强调的是，并非所有实时应用都需要使用功能强大的类似 LWT 的解决方案。但是一些实时应用，尤其是电信/网络中的应用以及无线接入网、移动基础设施核心/边缘中的那些需要使用某些复杂网络协议的应用、或任何具有类似实时需求的其他系统均可受益于 Linux 轻型线程 – 下一代 Linux 实时扩展。同时，实时嵌入式 Linux 的整个发展过程证明了 Linux 的运行效果与传统 RTOS 解决方案一样优异。Linux 已取得了一些进展，但是作者认为，最重要的电信/网络应用中使用的 Linux 尚未达到预期的要求。但也许通过 Linux 轻型线程，我们可以更接近这一目标。总的来说，Linux 实时嵌入式行业的一个侧重点是研发出可用于要求最高的实时应用的解决方案。下图中描述了该目标：

图 2： 轻型线程和 Linux 概念 - Linux 和 RTOS 最重要的概念