在Linux 中测量延迟

Posted on 2021/11/28 by qing

原文地址：http://btorpey.github.io/blog/2014/02/18/clock-sources-in-linux/

他山之石，可以攻玉，该文章将详细地介绍了在Linux 系统中使用TSC 时钟精确地计算一段代码过程（中断和函数等）执行时间需要注意的内容，可以配置Intel 官方文档《How to Benchmark Code Execution Times on Intel® IA-32 and IA-64 Instruction Set Architectures》一起阅读。下面是译文。

为了在现代（操作）系统中的测量（一段过程的）延迟，我们需要（测量时间间隔的时钟）至少能够以微秒为单位，最好以纳秒为单位。好消息是，使用相对现代的硬件和软件，可以准确地测量小到几个纳秒的时间间隔。

但是，为确保您的（测量）结果是准确的，更重要的是要了解您要测量什么，以及不同情况下测量过程的边界是什么。

概要

为了（在Linux 中测量延迟）获得最佳效果，您应该使用：

（使用）Linux 内核 2.6.18 或更高版本 —— 这是第一个包含 hrtimers （高精度时钟）包的版本。最好的是 2.6.32 或更高版本，包括了对大多数不同时钟源的支持。
具有恒定不变的 TSC（constant, invariant TSC (time-stamp counter)）的 CPU。这意味着 TSC 在所有插槽和CPU核心上都以恒定速率运行，而不管电源管理（代码）对 CPU 的频率进行如何更改。如果 CPU 支持 RDTSCP 指令那就更好了（RDTSCP 会使得读取的时间更准确和稳定）。
TSC 应配置为Linux 内核的时钟源。
您应该测量发生在同一台机器上的两个事件之间的间隔（机器内计时，即intra-machine timing）。
对于机器内计时，您最好的选择使用汇编语言直接读取 TSC。在我的测试机器上，软件读取 TSC 大约需要 100ns，这是该方法准确性的（边界）限制（要测量100ns 以内的时间间隔是不实际的）。但不同机器读取TSC 开销不尽相同，这就是为什么我提供了源代码，您可以用来进行测量自己的机器。
- 请注意，上面提到的100ns 主要是因为我的Linux 机器不支持RDTSCP 指令。所以为了获取合理准确的计时，在RDTSC 之前还执行了CPUID 指令以序列化指令执行过程。而在另一台支持RDTSCP 指令的机器（新 MacBook Air）上，开销下降了大约 14ns。

下面将讨论时钟在Linux 上的工作原理，如何从软件（角度）访问各种时钟，以及如何测量访问它们的开销。

继续阅读 →

利用autossh和中间主机为内网主机建立稳定ssh 连接

Posted on 2021/09/14 by qing

通常会遇到一些内网主机没有独立IP 地址，隐藏在NAT 之后，用户无法直接建立ssh 连接。

这时候就需要一个中间人机器（具有独立IP）做为跳板，内网机器反向连接至中间机器。用户登陆时，首先连接至中间机器，再反向连接至内网主机。

其步骤如下：

在内网主机，运行 ssh -R 7777:localhost:22 [email protected]
在中间主机，运行 ssh -p 7777 [email protected]

注意：步骤2的user 是内网主机user。

ssh -R 参数中7777 是远端映射的端口，连接该端口将建立起和内网22 号端口的链接；下面是man ssh 中关于-R 选项的说明

-R [bind_address:]port:host:hostport

-R [bind_address:]port:local_socket

-R remote_socket:host:hostport

-R remote_socket:local_socket

-R [bind_address:]port

Specifies that connections to the given TCP port or Unix socket on the remote (server) host are to be forwarded to the local side.

This works by allocating a socket to listen to either a TCP port or to a Unix socket on the remote side. Whenever a connection is made to this port or Unix socket, the connection is forwarded over the secure channel, and a connection is made from the local machine to either an explicit destination specified by host port hostport, or local_socket, or, if no explicit destination was specified, ssh will act as a SOCKS 4/5 proxy and forward connections to the destinations requested by the remote SOCKS client. Port forwardings can also be specified in the configuration file. Privileged ports can be forwarded only when logging in as root on the remote machine. IPv6 ad‐ dresses can be specified by enclosing the address in square brackets.

By default, TCP listening sockets on the server will be bound to the loopback interface only. This may be overridden by specifying a bind_address. An empty bind_address, or the address ‘*’, indicates that the remote socket should listen on all interfaces. Specifying a remote bind_address will only succeed if the server's GatewayPorts option is enabled (see sshd_config(5)).

If the port argument is ‘0’, the listen port will be dynamically allocated on the server and reported to the client at run time. When used together with -O forward the allocated port will be printed to the standard output.

但这样存在两个问题：1）ssh 连接超过固定时间会自动释放；2）每次连接中间机器都需要用户手动输入密码。

第一个问题通过autossh 解决

autossh 通过将ssh 命令包裹至一个循环中，并在ssh 命令断开时自动建立连接，这样就保证了即使内网机器无法访问，也会自动建立和中间主机的逆向连接。autossh 命令格式如下

autossh [autossh options] [ssh options]

即autossh 除了自身参数，其他参数直接用ssh 的即可。

第二个问题通过公钥免密码登录解决：1）内网主机执行ssh-keygen；2）ssh-copy-id -i ~/.ssh/id_rsa.pub [email protected]_machine

结合起autossh 和免密码登录，autossh 命令如下：

autossh -o "PasswordAuthentication=no" -o "PubkeyAuthentication=yes" -i ~/.ssh/id_rsa -R 7777:localhost:22 [email protected]

将该命令添加至开机启动模块中实现开机启动。

Futex 简述

Posted on 2021/04/06 by qing

简介：futex 全称为Fast User-space Mutex，是Linux 2.5.7 内核引入的锁原语，不同于其他进程间通信IPC原语（如信号量Semaphore、信号Signal和各种锁pthread_mutex_lock），futex更轻量级、快速，一般应用开发人员可能很少用到，但可基于futex实现各类读写锁、屏障（barriers）和信号机制等。

相关背景

在Linux的早期版本（内核Linux 2.5.7 版本以前），进程间通信（Inter-Process Communication，IPC）沿用的是传统Unix系统和System V 的IPC，如信号量（Semaphores）和Socket 等，这些IPC 均基于系统调用（System Call）。这类方法的缺点是当系统竞争度较低时，每次都进行系统调用，会造成较大系统开销。

原理和做法

用户程序每次调用IPC机制都会产生系统调用，程序发生用户态和内核态的切换，futex 的基本思想是竞争态总是很少发生的，只有在竞争态才需要进入内核，否则在用户态即可完成。futex的两个目标是：1）尽量避免系统调用；2）避免不必要的上下文切换（导致的TLB失效等）。

具体而言，任务获取一个futex 将发起带锁的减指令，并验证数值结果值是否为0（加上了锁），如果成功则可继续执行程序，失败（为已经占用的锁继续加锁）则任务在内核被阻塞。为相同futex 变量的加锁的任务被阻塞后放在同一个队列，解锁任务通过减少变量（只有一个加锁且锁队列为空）或进入内核从锁队列唤醒任务。

注意：futex 在Linux 的内核实现为一个系统调用（SYS_futex），用户程序如果直接调用它肯定会进入内核态，它还需要和其他语句（如原子操作）配合使用，新手在未理解其futex 原理和并发控制机制时极易犯错，这也是为什么不推荐直接使用它的原因。

继续阅读 →

记一次有趣的Bug – 返回值被截断为32位

Posted on 2020/10/19 by qing

上周修改了hdrt 库文件中头文件的include 关系，结果出现了一个有趣的bug。具体表现为：当函数foo() 调用某个函数fun_called()，返回的值ret_val 总是从64位被截断为32位。

首先，在foo() 函数头和func_called 函数尾输出ret_val，确认是返回值是在调用过程中被截断了。

其次，在gdb 中查看生成的代码，发现ret_val所存储的寄存器rax （返回值一般存储在rax寄存器中）在被返回时，被cltq 指令截断了高32 位。

  0x555555565adb <foo+42> callq 0x555555569874<fun_called>
  0x555555565ae0 <foo+47> cltq
  0x555555565ae2 <foo+49> mov %rax,-0x8(%rbp)
  0x555555565ae6 <foo+53> cmpq $0x0,-0x8(%rbp)
  0x555555565aeb <foo+58> jne 0x555555565b2e <foo+125>

最后，查了相关资料https://stackoverflow.com/a/26209434/1424948 可能原因是：

1）函数声明（prototype）中没有fun_called 的声明；

2）没有引用包含fun_called 声明的头文件。

默认情况下，调用函数foo 在不知道被调用函数fun_called 的返回值类型的情况下，会按照int 类型大小的值处理，即32位。

对于这个bug 其实有两个建议：

1 非特殊情况不要用强制类型转换（即type cast），(char *)这类转换会屏蔽很多暴露问题的warning；

2 要查看/消除warning，例如这个bug 实际隐藏在了warning 中，因为返回值被编译当做默认的int 类型返回时，获取返回值变量不是int 时则告警了类型不匹配。

利用/proc精确计算Linux系统的CPU利用率

Posted on 2020/09/25 by qing

Linux 系统并未提供直接获取CPU 利用率的接口，一些应用程序通过访问/proc 文件系统中系统的状态统计从而计算得到CPU利用率。常用查看进程及其相关信息的top 命令和htop 命令即属于这一类。

本文简单介绍如何利用/proc/stat 文件计算CPU 利用率，这种经典方法在top 和htop 工具中也被采用，在StackOverflow 也有说明；接着，将上面经典方法获取的CPU 利用率和一种极端情况下的单核单任务的CPU占用率进行比较，单核单任务指的是，在隔离的单独CPU 和核心上只运行该程序（如果你对这有疑问，可以参考下core affinity 、core isolation 和non irqbalance）。

看下图htop 工具的截图：该系统有8个CPU核心，每个核心的CPU利用率位于图上方横向柱状图。8个核心中1-7都是被隔离的，1/3/4/5/6/7每个核心都分配了一个名称为grt_simple_conc_ispc 的线程，每个线程CPU 占用率（CPU%）位于图下方第5 列，可以看出CPU利用率（上方）和每个程序占CPU利用率（下方）结果是有差异的。

方法一

一种最直接计算程序占用CPU 使用率的计算方法是，采样N 次，如果有R 次该程序正在执行，则其占用CPU使用率为 R/N × 100%。

Linux 在/proc/{pid}/stat 文件中记录进程ID 为pid 的进程统计信息（按照类别分为几十个字段，详见 https://man7.org/linux/man-pages/man5/proc.5.html ）。如果进程状态字符是R ，则表示进程正在运行（Running），如果状态字符是S ，则表示进程正在睡眠（Sleeping）。

将该方法作为CPU 利用率的前提是：该CPU 核心只运行该进程，尽量少地被中断。

计算CPU 利用率经典方法（方法二）

工具（如top 和htop）定时采样读取/proc/stat 文件内容，该文件记录了每个CPU核心所处不同状态的累计时间，再通过以下公式可计算得到指定核心CPU利用率：

previdle   = previdle + previowait
idle     = idle + iowait
prevnoidle  = prevuser + prevnice + prevsystem + previrq + prevsoftirq + prevsteal
noidle    = user + nice + system + irq + softirq + steal
prevtotal   = previdle + prevnonidle
total     = idle + nonidle
total_delta  = total - prevtotal
idle_delta  = idle - previdle
CPU_usage    = (total_delta - idle_delta)/total_delta

以prev开头的变量是上一次采用数据，否则是当前采样数据，通过计算两次采样之间的CPU空闲时间（idle_delta）和总计时间（total_delta）得到CPU利用率，这是procs/top 工具默认使用的方法，也是最常见CPU利用率统计方法。

方法三

方法和约束情况类似于方法一，周期性读取/proc/{pid}/stat文件，获取进程用户态时间utime 和核态时间stime，按照如下公式计算CPU利用率

CPU_usage = （utime+stime)/sample_interval

其中，utime和stime代表进程用户态时间和核态时间，sample_interval是采样间隔。

下面是负载由轻到高，三种方法得到的CPU 利用率：

Linux 内核文档PDF版（Linux kernel v5.8 documents pdf version）

Posted on 2020/07/14 by qing

你也可以在自己的Linux kernel 源码目录执行以下命令生成自己的pdf，但何必自己造轮子呢。

sudo apt-get install sphinxsearch
sudo apt-get install python-sphinx-rtd-theme
sudo apt-get install texlive-latex-recommended
sudo apt-get install texlive-base
sudo apt-get install graphviz
sudo apt-get install imagemagick
/usr/bin/virtualenv ~/sphinx_version
. ~/sphinx_version/bin/activate
pip install -r Documentation/sphinx/requirements.txt
make pdfdocs

12 3 4 5 6 下一页最后一页

呆鸥

Brains first and then Hard Work