web服务器之mongoose：核心处理模块

引言

前面我们介绍了Mongoose所有的几个主要的数据结构mg_context、mg_connection、mg_request_info，还有Mongoose的生命主线。有了这些基础就可以来看看Mongoose的核心处理工作是怎样的。

本文从下面几个方面去介绍Mongoose的核心处理模块，连接建立之后的：

• 请求解析
• 请求验证
• 请求满足

1、连接的建立

Mongoose的主线程master_thread在接受一个新的client连接请求时，会将client的socket地址放入一个queue（调用put_socket()方法）；而当worker_thread线程处理client的请求时，是通过get_socket()方法从queue取出client的socket地址，然后与它建立连接。

建立连接就用到了数据结构mg_connection，该结构保存了client的连接信息。该结构体中有两个非常重要的成员：mg_request_info用于保存client的请求信息、mg_context用于保存该client请求的mongoose上下文。建立连接的代码片段如下：

1. while (get_socket(ctx, &conn.client) == TRUE) {
2.         conn.birth_time = time(NULL);
3.         conn.ctx = ctx;
4.  
5.         if (conn.client.is_ssl &&
6.          (conn.ssl = SSL_new(conn.ctx->ssl_ctx)) == NULL) {
7.             cry(&conn, "%s: SSL_new: %d", __func__, ERRNO);
8.         } else if (conn.client.is_ssl &&
9.          SSL_set_fd(conn.ssl, conn.client.sock) != 1) {
10.             cry(&conn, "%s: SSL_set_fd: %d", __func__, ERRNO);
11.         } else if (conn.client.is_ssl && SSL_accept(conn.ssl) != 1) {
12.             cry(&conn, "%s: SSL handshake error", __func__);
13.         } else {
14.             process_new_connection(&conn);
15.         }
16.  
17.         close_connection(&conn);
18.     }

其中以SSL_开头的函数都是加载自SSL的库，加载库调用了如下接口：static bool_t set_ssl_option(struct mg_context *ctx, const char *pem)，有兴趣的话你可以追踪下去。

2、请求信息获取

建立连接之后，在process_new_connection中会去读取client的请求信息，然后才去解析请求。读取client端的请求的信息用到了下面的方法：

1. /*
2.  * Keep reading the input (either opened file descriptor fd, or socket sock,
3.  * or SSL descriptor ssl) into buffer buf, until \r\n\r\n appears in the
4.  * buffer (which marks the end of HTTP request). Buffer buf may already
5.  * have some data. The length of the data is stored in nread.
6.  * Upon every read operation, increase nread by the number of bytes read.
7.  */
8. static int
9. read_request(FILE *fp, SOCKET sock, SSL *ssl, char *buf, int bufsiz, int *nread)
10. {
11.     int    n, request_len;
12.  
13.     request_len = 0;
14.     while (*nread < bufsiz && request_len == 0) {
15.         n = pull(fp, sock, ssl, buf + *nread, bufsiz - *nread);
16.         if (n <= 0) {
17.             break;
18.         } else {
19.             *nread += n;
20.             request_len = get_request_len(buf, (size_t) *nread);
21.         }
22.     }
23.  
24.     return (request_len);
25. }

其中pull()方法的代码如下：

1. /*
2.  * Read from IO channel - opened file descriptor, socket, or SSL descriptor.
3.  * Return number of bytes read.
4.  */
5. static int
6. pull(FILE *fp, SOCKET sock, SSL *ssl, char *buf, int len)
7. {
8.     int    nread;
9.  
10.     if (ssl != NULL) {
11.         nread = SSL_read(ssl, buf, len);
12.     } else if (fp != NULL) {
13.         nread = fread(buf, 1, (size_t) len, fp);
14.         if (ferror(fp))
15.             nread = -1;
16.     } else {
17.         nread = recv(sock, buf, (size_t) len, 0);
18.     }
19.  
20.     return (nread);
21. }

这样client发送的HTTP请求消息就被worker_thread读取到了，并存储在buf中， 接下来的工作就是解析读取到的请求信息，明白client到底想干嘛，说白了就从buf中提取信息并存储到结构体mg_request_info中去。

3、请求解析

请求解析的工作都封装在parse_http_request()函数汇中，它的代码如下：

1. /*
2.  * Parse HTTP request, fill in mg_request_info structure.
3.  */
4. static bool_t
5. parse_http_request(char *buf, struct mg_request_info *ri, const struct usa *usa)
6. {
7.     char    *http_version;
8.     int    n, success_code = FALSE;
9.  
10.     ri->request_method = skip(&buf, " ");
11.     ri->uri = skip(&buf, " ");
12.     http_version = skip(&buf, "\r\n");
13.  
14.     if (is_known_http_method(ri->request_method) &&
15.      ri->uri[0] == '/' &&
16.      sscanf(http_version, "HTTP/%d.%d%n",
17.      &ri->http_version_major, &ri->http_version_minor, &n) == 2 &&
18.      http_version[n] == '\0') {
19.         parse_http_headers(&buf, ri);
20.         ri->remote_port = ntohs(usa->u.sin.sin_port);
21.         (void) memcpy(&ri->remote_ip, &usa->u.sin.sin_addr.s_addr, 4);
22.         ri->remote_ip = ntohl(ri->remote_ip);
23.         success_code = TRUE;
24.     }
25.  
26.     return (success_code);
27. }

它的主要工作就是从buf中提取出信息放到ri（一个mg_request_info结构）中去，因为buf是一个无结构的字符串数组。要将它存储到ri中去，需要找到对应的子串。

这里主要用到了skip()、parse_http_headers()方法，其中skip()很关键，代码如下：

1. /*
2.  * Skip the characters until one of the delimiters characters found.
3.  * 0-terminate resulting word. Skip the rest of the delimiters if any.
4.  * Advance pointer to buffer to the next word. Return found 0-terminated word.
5.  */
6. static char *
7. skip(char **buf, const char *delimiters)
8. {
9.     char    *p, *begin_word, *end_word, *end_delimiters;
10.  
11.     begin_word = *buf;
12.     end_word = begin_word + strcspn(begin_word, delimiters);
13.     end_delimiters = end_word + strspn(end_word, delimiters);
14.  
15.     for (p = end_word; p < end_delimiters; p++)
16.         *p = '\0';
17.  
18.     *buf = end_delimiters;
19.  
20.     return (begin_word);
21. }

我们来分析一下skip的作用及实现。如要从buf中解析出client请求的methods是哪个（PUT、GET、POST等等）？只需要这样做就可以了： 

ri->request_method = skip(&buf, " "); 

为了分析，到底是如何实现这个的，我在porcess_new_connection()中加入下面一行输出buf信息的代码：

1. /在process_new_connection()中
2. /* 0-terminate the request: parse_request uses sscanf */
3.  buf[request_len - 1] = '\0';
4. //******************************************************************
5. //打印buf内容
6. printf("\n******process_new_connection()******\n");
7. printf("add by fanguotao,just for debug!! receive request_info is \n%s",buf);
8. //******************************************************************

看当我们想mongoose发送的请求信息，这时我们在浏览其中输入http://ip:8080，终端会输出buf的信息，如下：

看到第一行就是GET /favicon.ico HTTP/1.1。知道了buf中的字符信息，但在我们分析skip(&buf, " ")是如何提取出GET的之前，还要知道strcspn、strspn的作用，下面是它们的原型：

1. #include <string.h>
2.        size_t strspn(const char *s, const char *accept);
3.        size_t strcspn(const char *s, const char *reject);

下面解释它们的作用：

1. DESCRIPTION 
2.        The strspn() function calculates the length of the initial segment of s 
3. which consists entirely of characters in accept.
4.  
5.        The strcspn() function calculates the length of the initial segment of s which consists entirely of characters not in reject.
6.  
7. RETURN VALUE 
8.        The strspn() function returns the number of characters in the initial segment of s which consist only of characters from accept.
9.  
10.        The strcspn() function returns the number of characters in the initial segment of s which are not in the string reject.

现在已经万事俱备了，skip(&buf, " ")的执行情况如下：

4、请求验证

请求验证分布在从连接请求开始到请求得到回应的整个过程中。在请求解析之前，比如验证socket的合法性等。在请求解析之后，从buf中解析出HTTP请求消息的各个字段之后，就做一些简单的验证工作，比如说HTTP版本的验证。如果在解析buf时出错，说明请求的格式不对。

而且在满足client请求的时候也要进行一些验证，诸如是否有浏览目录的权限、请求的文件是否存在等等，我就不在详述了

5、请求满足

在parse_http_request()之后，调用analyze_request()去满足client的请求。这是Mongoose的核心内容，也是不同web服务器软件相区别的地方。analyze_request()封装了一些操作，即调用了一些接口去满足client的请求，代码如下：。

1. /*
2.  * This is the heart of the Mongoose's logic.
3.  * This function is called when the request is read, parsed and validated,
4.  * and Mongoose must decide what action to take: serve a file, or
5.  * a directory, or call embedded function, etcetera.
6.  */
7. static void
8. analyze_request(struct mg_connection *conn)
9. {
10.     struct mg_request_info *ri = &conn->request_info;
11.     char            path[FILENAME_MAX], *uri = ri->uri;
12.     struct mgstat        st;
13.     const struct callback    *cb;
14.  
15.     if ((conn->request_info.query_string = strchr(uri, '?')) != NULL)
16.         * conn->request_info.query_string++ = '\0';
17.  
18.     (void) url_decode(uri, (int) strlen(uri), uri, strlen(uri) + 1, FALSE);
19.     remove_double_dots_and_double_slashes(uri);
20.     convert_uri_to_file_name(conn, uri, path, sizeof(path));
21.  
22.     if (!check_authorization(conn, path)) {
23.         send_authorization_request(conn);
24.     } else if (check_embedded_authorization(conn) == FALSE) {
25.         /*
26.          * Embedded code failed authorization. Do nothing here, since
27.          * an embedded code must handle this itself by either
28.          * showing proper error message, or redirecting to some
29.          * sort of login page, or something else.
30.          */
31.     } else if ((cb = find_callback(conn->ctx, FALSE, uri, -1)) != NULL) {
32.         if ((strcmp(ri->request_method, "POST") != 0 &&
33.          strcmp(ri->request_method, "PUT") != 0) ||
34.          handle_request_body(conn, NULL))
35.             cb->func(conn, &conn->request_info, cb->user_data);
36.     } else if (strstr(path, PASSWORDS_FILE_NAME)) {
37.         /* Do not allow to view passwords files */
38.         send_error(conn, 403, "Forbidden", "Access Forbidden");
39.     } else if ((!strcmp(ri->request_method, "PUT") ||
40.      !strcmp(ri->request_method, "DELETE")) &&
41.      (conn->ctx->options[OPT_AUTH_PUT] == NULL ||
42.      !is_authorized_for_put(conn))) {
43.         send_authorization_request(conn);
44.     } else if (!strcmp(ri->request_method, "PUT")) {
45.         put_file(conn, path);
46.     } else if (!strcmp(ri->request_method, "DELETE")) {
47.         if (mg_remove(path) == 0)
48.             send_error(conn, 200, "OK", "");
49.         else
50.             send_error(conn, 500, http_500_error,
51.              "remove(%s): %s", path, strerror(ERRNO));
52.     } else if (mg_stat(path, &st) != 0) {
53.         send_error(conn, 404, "Not Found", "%s", "File not found");
54.     } else if (st.is_directory && uri[strlen(uri) - 1] != '/') {
55.         (void) mg_printf(conn,
56.          "HTTP/1.1 301 Moved Permanently\r\n"
57.          "Location: %s/\r\n\r\n", uri);
58.     } else if (st.is_directory &&
59.      substitute_index_file(conn, path, sizeof(path), &st) == FALSE) {
60.         if (is_true(conn->ctx->options[OPT_DIR_LIST])) {
61.             send_directory(conn, path);
62.         } else {
63.             send_error(conn, 403, "Directory Listing Denied",
64.              "Directory listing denied");
65.         }
66. #if !defined(NO_CGI)
67.     } else if (match_extension(path,
68.      conn->ctx->options[OPT_CGI_EXTENSIONS])) {
69.         if (strcmp(ri->request_method, "POST") &&
70.          strcmp(ri->request_method, "GET")) {
71.             send_error(conn, 501, "Not Implemented",
72.              "Method %s is not implemented", ri->request_method);
73.         } else {
74.             send_cgi(conn, path);
75.         }
76. #endif /* NO_CGI */
77. #if !defined(NO_SSI)
78.     } else if (match_extension(path,
79.      conn->ctx->options[OPT_SSI_EXTENSIONS])) {
80.         send_ssi(conn, path);
81. #endif /* NO_SSI */
82.     } else if (is_not_modified(conn, &st)) {
83.         send_error(conn, 304, "Not Modified", "");
84.     } else {
85.         send_file(conn, path, &st);
86.     }
87. }
88.