你好,我是盛延敏,这里是网络编程实战第 7 讲,欢迎回来。

上一篇文章中,我们讲了 UDP。很多同学都知道 TCP 和 UDP,但是对本地套接字却不甚了解。

实际上,本地套接字是 IPC,也就是本地进程间通信的一种实现方式。除了本地套接字以外,其它技术,诸如管道、共享消息队列等也是进程间通信的常用方法,但因为本地套接字开发便捷,接受度高,所以普遍适用于在同一台主机上进程间通信的各种场景。

那么今天我们就来学习下本地套接字方面的知识,并且利用本地套接字完成可靠字节流和数据报两种协议。

从例子开始

现在最火的云计算技术是什么?无疑是 Kubernetes 和 Docker。在 Kubernetes 和 Docker 的技术体系中,有很多优秀的设计,比如 Kubernetes 的 CRI(Container Runtime Interface),其思想是将 Kubernetes 的主要逻辑和 Container Runtime 的实现解耦。

我们可以通过 netstat 命令查看 Linux 系统内的本地套接字状况,下面这张图列出了路径为 /var/run/dockershim.socket 的 stream 类型的本地套接字,可以清楚地看到开启这个套接字的进程为 kubelet。kubelet 是 Kubernetes 的一个组件,这个组件负责将控制器和调度器的命令转化为单机上的容器实例。为了实现和容器运行时的解耦,kubelet 设计了基于本地套接字的客户端 - 服务器 GRPC 调用。


眼尖的同学可能发现列表里还有 docker-containerd.sock 等其他本地套接字,是的,Docker 其实也是大量使用了本地套接字技术来构建的。

如果我们在 /var/run 目录下将会看到 docker 使用的本地套接字描述符:

本地套接字概述

本地套接字一般也叫做 UNIX 域套接字,最新的规范已经改叫本地套接字。在前面的 TCP/UDP 例子中,我们经常使用 127.0.0.1 完成客户端进程和服务器端进程同时在本机上的通信,那么,这里的本地套接字又是什么呢?

本地套接字是一种特殊类型的套接字,和 TCP/UDP 套接字不同。TCP/UDP 即使在本地地址通信,也要走系统网络协议栈,而本地套接字,严格意义上说提供了一种单主机跨进程间调用的手段,减少了协议栈实现的复杂度,效率比 TCP/UDP 套接字都要高许多。类似的 IPC 机制还有 UNIX 管道、共享内存和 RPC 调用等。

比如 X Window 实现,如果发现是本地连接,就会走本地套接字,工作效率非常高。

现在你可以回忆一下,在前面介绍套接字地址时,我们讲到了本地地址,这个本地地址就是本地套接字专属的。

本地字节流套接字

我们先从字节流本地套接字开始。

这是一个字节流类型的本地套接字服务器端例子。在这个例子中,服务器程序打开本地套接字后,接收客户端发送来的字节流,并往客户端回送了新的字节流。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96

#include  "lib/common.h"

 int main(int argc, char **argv) {

    if (argc != 2) {

        error(1, 0, "usage: unixstreamserver <local_path>");

    }

     int listenfd, connfd;

    socklen_t clilen;

    struct sockaddr_un cliaddr, servaddr;

     listenfd = socket(AF_LOCAL, SOCK_STREAM, 0);

    if (listenfd < 0) {

        error(1, errno, "socket create failed");

    }

     char *local_path = argv[1];

    unlink(local_path);

    bzero(&servaddr, sizeof(servaddr));

    servaddr.sun_family = AF_LOCAL;

    strcpy(servaddr.sun_path, local_path);

     if (bind(listenfd, (struct sockaddr *) &servaddr, sizeof(servaddr)) < 0) {

        error(1, errno, "bind failed");

    }

     if (listen(listenfd, LISTENQ) < 0) {

        error(1, errno, "listen failed");

    }

     clilen = sizeof(cliaddr);

    if ((connfd = accept(listenfd, (struct sockaddr *) &cliaddr, &clilen)) < 0) {

        if (errno == EINTR)

            error(1, errno, "accept failed");        /* back to for() */

        else

            error(1, errno, "accept failed");

    }

     char buf[BUFFER_SIZE];

     while (1) {

        bzero(buf, sizeof(buf));

        if (read(connfd, buf, BUFFER_SIZE) == 0) {

            printf("client quit");

            break;

        }

        printf("Receive: %s", buf);

         char send_line[MAXLINE];

        sprintf(send_line, "Hi, %s", buf);

         int nbytes = sizeof(send_line);

         if (write(connfd, send_line, nbytes) != nbytes)

            error(1, errno, "write error");

    }

     close(listenfd);

    close(connfd);

     exit(0);

 }

我对这个程序做一个详细的解释:

  • 第 12~15 行非常关键,这里创建的套接字类型,注意是 AF_LOCAL,并且使用字节流格式。你现在可以回忆一下,TCP 的类型是 AF_INET 和字节流类型;UDP 的类型是 AF_INET 和数据报类型。在前面的文章中,我们提到 AF_UNIX 也是可以的,基本上可以认为和 AF_LOCAL 是等价的。
  • 第 17~21 行创建了一个本地地址,这里的本地地址和 IPv4、IPv6 地址可以对应,数据类型为 sockaddr_un,这个数据类型中的 sun_family 需要填写为 AF_LOCAL,最为关键的是需要对 sun_path 设置一个本地文件路径。我们这里还做了一个 unlink 操作,以便把存在的文件删除掉,这样可以保持幂等性。
  • 第 23~29 行,分别执行 bind 和 listen 操作,这样就监听在一个本地文件路径标识的套接字上,这和普通的 TCP 服务端程序没什么区别。
  • 第 41~56 行,使用 read 和 write 函数从套接字中按照字节流的方式读取和发送数据。

我在这里着重强调一下本地文件路径。关于本地文件路径,需要明确一点,它必须是“绝对路径”,这样的话,编写好的程序可以在任何目录里被启动和管理。如果是“相对路径”,为了保持同样的目的,这个程序的启动路径就必须固定,这样一来,对程序的管理反而是一个很大的负担。

另外还要明确一点,这个本地文件,必须是一个“文件”,不能是一个“目录”。如果文件不存在,后面 bind 操作时会自动创建这个文件。

还有一点需要牢记,在 Linux 下,任何文件操作都有权限的概念,应用程序启动时也有应用属主。如果当前启动程序的用户权限不能创建文件,你猜猜会发生什么呢?这里我先卖个关子,一会演示的时候你就会看到结果。

下面我们再看一下客户端程序。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60

#include "lib/common.h"

 int main(int argc, char **argv) {

    if (argc != 2) {

        error(1, 0, "usage: unixstreamclient <local_path>");

    }

     int sockfd;

    struct sockaddr_un servaddr;

     sockfd = socket(AF_LOCAL, SOCK_STREAM, 0);

    if (sockfd < 0) {

        error(1, errno, "create socket failed");

    }

     bzero(&servaddr, sizeof(servaddr));

    servaddr.sun_family = AF_LOCAL;

    strcpy(servaddr.sun_path, argv[1]);

     if (connect(sockfd, (struct sockaddr *) &servaddr, sizeof(servaddr)) < 0) {

        error(1, errno, "connect failed");

    }

     char send_line[MAXLINE];

    bzero(send_line, MAXLINE);

    char recv_line[MAXLINE];

     while (fgets(send_line, MAXLINE, stdin) != NULL) {

         int nbytes = sizeof(send_line);

        if (write(sockfd, send_line, nbytes) != nbytes)

            error(1, errno, "write error");

         if (read(sockfd, recv_line, MAXLINE) == 0)

            error(1, errno, "server terminated prematurely");

         fputs(recv_line, stdout);

    }

     exit(0);

}

下面我带大家理解一下这个客户端程序。

  • 11~14 行创建了一个本地套接字,和前面服务器端程序一样,用的也是字节流类型 SOCK_STREAM。
  • 16~18 行初始化目标服务器端的地址。我们知道在 TCP 编程中,使用的是服务器的 IP 地址和端口作为目标,在本地套接字中则使用文件路径作为目标标识,sun_path 这个字段标识的是目标文件路径,所以这里需要对 sun_path 进行初始化。
  • 20 行和 TCP 客户端一样,发起对目标套接字的 connect 调用,不过由于是本地套接字,并不会有三次握手。
  • 28~38 行从标准输入中读取字符串,向服务器端发送,之后将服务器端传输过来的字符打印到标准输出上。

总体上,我们可以看到,本地字节流套接字和 TCP 服务器端、客户端编程最大的差异就是套接字类型的不同。本地字节流套接字识别服务器不再通过 IP 地址和端口,而是通过本地文件。

接下来,我们就运行这个程序来加深对此的理解。

只启动客户端

第一个场景中,我们只启动客户端程序:

1
2
3
4

$ ./unixstreamclient /tmp/unixstream.sock

connect failed: No such file or directory (2)

我们看到,由于没有启动服务器端,没有一个本地套接字在 /tmp/unixstream.sock 这个文件上监听,客户端直接报错,提示我们没有文件存在。

服务器端监听在无权限的文件路径上

还记得我们在前面卖的关子吗?在 Linux 下,执行任何应用程序都有应用属主的概念。在这里,我们让服务器端程序的应用属主没有 /var/lib/ 目录的权限,然后试着启动一下这个服务器程序:

1
2
3
4

$ ./unixstreamserver /var/lib/unixstream.sock

bind failed: Permission denied (13)

这个结果告诉我们启动服务器端程序的用户,必须对本地监听路径有权限。这个结果和你期望的一致吗?

试一下 root 用户启动该程序:

1
2
3
4

sudo ./unixstreamserver /var/lib/unixstream.sock

(阻塞运行中)

我们看到,服务器端程序正常运行了。

打开另外一个 shell,我们看到 /var/lib 下创建了一个本地文件,大小为 0,而且文件的最后结尾有一个(=)号。其实这就是 bind 的时候自动创建出来的文件。

1
2
3
4

$ ls -al /var/lib/unixstream.sock

rwxr-xr-x 1 root root 0 Jul 15 12:41 /var/lib/unixstream.sock=

如果我们使用 netstat 命令查看 UNIX 域套接字,就会发现 unixstreamserver 这个进程,监听在 /var/lib/unixstream.sock 这个文件路径上。


看看,很简单吧,我们写的程序和鼎鼎大名的 Kubernetes 运行在同一机器上,原理和行为完全一致。

服务器 - 客户端应答

现在,我们让服务器和客户端都正常启动,并且客户端依次发送字符:

 1
 2
 3
 4
 5
 6
 7
 8
 9
10

$./unixstreamserver /tmp/unixstream.sock

Receive: g1

Receive: g2

Receive: g3

client quit
 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16

$./unixstreamclient /tmp/unixstream.sock

g1

Hi, g1

g2

Hi, g2

g3

Hi, g3

^C

我们可以看到,服务器端陆续收到客户端发送的字节,同时,客户端也收到了服务器端的应答;最后,当我们使用 Ctrol+C,让客户端程序退出时,服务器端也正常退出。

本地数据报套接字

我们再来看下在本地套接字上使用数据报的服务器端例子:

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80

#include  "lib/common.h"

 int main(int argc, char **argv) {

    if (argc != 2) {

        error(1, 0, "usage: unixdataserver <local_path>");

    }

     int socket_fd;

    socket_fd = socket(AF_LOCAL, SOCK_DGRAM, 0);

    if (socket_fd < 0) {

        error(1, errno, "socket create failed");

    }

     struct sockaddr_un servaddr;

    char *local_path = argv[1];

    unlink(local_path);

    bzero(&servaddr, sizeof(servaddr));

    servaddr.sun_family = AF_LOCAL;

    strcpy(servaddr.sun_path, local_path);

     if (bind(socket_fd, (struct sockaddr *) &servaddr, sizeof(servaddr)) < 0) {

        error(1, errno, "bind failed");

    }

     char buf[BUFFER_SIZE];

    struct sockaddr_un client_addr;

    socklen_t client_len = sizeof(client_addr);

    while (1) {

        bzero(buf, sizeof(buf));

        if (recvfrom(socket_fd, buf, BUFFER_SIZE, 0, (struct sockadd *) &client_addr, &client_len) == 0) {

            printf("client quit");

            break;

        }

        printf("Receive: %s \n", buf);

         char send_line[MAXLINE];

        bzero(send_line, MAXLINE);

        sprintf(send_line, "Hi, %s", buf);

         size_t nbytes = strlen(send_line);

        printf("now sending: %s \n", send_line);

         if (sendto(socket_fd, send_line, nbytes, 0, (struct sockadd *) &client_addr, client_len) != nbytes)

            error(1, errno, "sendto error");

    }

     close(socket_fd);

     exit(0);

}

本地数据报套接字和前面的字节流本地套接字有以下几点不同:

  • 第 9 行创建的本地套接字,**这里创建的套接字类型,注意是 AF_LOCAL,**协议类型为 SOCK_DGRAM。
  • 21~23 行 bind 到本地地址之后,没有再调用 listen 和 accept,回忆一下,这其实和 UDP 的性质一样。
  • 28~45 行使用 recvfrom 和 sendto 来进行数据报的收发,不再是 read 和 send,这其实也和 UDP 网络程序一致。

然后我们再看一下客户端的例子:

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78

#include "lib/common.h"

 int main(int argc, char **argv) {

    if (argc != 2) {

        error(1, 0, "usage: unixdataclient <local_path>");

    }

     int sockfd;

    struct sockaddr_un client_addr, server_addr;

     sockfd = socket(AF_LOCAL, SOCK_DGRAM, 0);

    if (sockfd < 0) {

        error(1, errno, "create socket failed");

    }

     bzero(&client_addr, sizeof(client_addr));        /* bind an address for us */

    client_addr.sun_family = AF_LOCAL;

    strcpy(client_addr.sun_path, tmpnam(NULL));

     if (bind(sockfd, (struct sockaddr *) &client_addr, sizeof(client_addr)) < 0) {

        error(1, errno, "bind failed");

    }

     bzero(&server_addr, sizeof(server_addr));

    server_addr.sun_family = AF_LOCAL;

    strcpy(server_addr.sun_path, argv[1]);

     char send_line[MAXLINE];

    bzero(send_line, MAXLINE);

    char recv_line[MAXLINE];

     while (fgets(send_line, MAXLINE, stdin) != NULL) {

        int i = strlen(send_line);

        if (send_line[i - 1] == '\n') {

            send_line[i - 1] = 0;

        }

        size_t nbytes = strlen(send_line);

        printf("now sending %s \n", send_line);

         if (sendto(sockfd, send_line, nbytes, 0, (struct sockaddr *) &server_addr, sizeof(server_addr)) != nbytes)

            error(1, errno, "sendto error");

         int n = recvfrom(sockfd, recv_line, MAXLINE, 0, NULL, NULL);

        recv_line[n] = 0;

         fputs(recv_line, stdout);

        fputs("\n", stdout);

    }

     exit(0);

}

这个程序和 UDP 网络编程的例子基本是一致的,我们可以把它当做是用本地文件替换了 IP 地址和端口的 UDP 程序,不过,这里还是有一个非常大的不同的。

这个不同点就在 16~22 行。你可以看到 16~22 行将本地套接字 bind 到本地一个路径上,然而 UDP 客户端程序是不需要这么做的。本地数据报套接字这么做的原因是,它需要指定一个本地路径,以便在服务器端回包时,可以正确地找到地址;而在 UDP 客户端程序里,数据是可以通过 UDP 包的本地地址和端口来匹配的。

下面这段代码就展示了服务器端和客户端通过数据报应答的场景:

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14

 ./unixdataserver /tmp/unixdata.sock

Receive: g1

now sending: Hi, g1

Receive: g2

now sending: Hi, g2

Receive: g3

now sending: Hi, g3
 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22

$ ./unixdataclient /tmp/unixdata.sock

g1

now sending g1

Hi, g1

g2

now sending g2

Hi, g2

g3

now sending g3

Hi, g3

^C

我们可以看到,服务器端陆续收到客户端发送的数据报,同时,客户端也收到了服务器端的应答。

总结

我在开头已经说过,本地套接字作为常用的进程间通信技术,被用于各种适用于在同一台主机上进程间通信的场景。关于本地套接字,我们需要牢记以下两点:

  • 本地套接字的编程接口和 IPv4、IPv6 套接字编程接口是一致的,可以支持字节流和数据报两种协议。
  • 本地套接字的实现效率大大高于 IPv4 和 IPv6 的字节流、数据报套接字实现。

思考题

讲完本地套接字之后,我给你留几道思考题。

  1. 在本地套接字字节流类型的客户端 - 服务器例子中,我们让服务器端以 root 账号启动,监听在 /var/lib/unixstream.sock 这个文件上。如果我们让客户端以普通用户权限启动,客户端可以连接上 /var/lib/unixstream.sock 吗?为什么呢?
  2. 我们看到客户端被杀死后,服务器端也正常退出了。看下退出后打印的日志,你不妨判断一下引起服务器端正常退出的逻辑是什么?
  3. 你有没有想过这样一个奇怪的场景:如果自己不小心写错了代码,本地套接字服务器端是 SOCK_DGRAM,客户端使用的是 SOCK_STREAM,路径和其他都是正确的,你觉得会发生什么呢?

欢迎你在评论区写下你的思考,我会和你一起交流这些问题。如果这篇文章帮你弄懂了本地套接字,不妨把它分享给你的朋友或者同事,一起交流一下它吧!