网络操作
不了解网络编程的程序员不是好前端,而NodeJS恰好提供了一扇了解网络编程的窗口。通过NodeJS,除了可以编写一些服务端程序来协助前端开发和测试外,还能够学习一些HTTP协议与Socket协议的相关知识,这些知识在优化前端性能和排查前端故障时说不定能派上用场。本章将介绍与之相关的 NodeJS内置模块。
开门红
NodeJS本来的用途是编写高性能Web服务器。我们首先在这里重复一下官方文档里的例子,使用NodeJS内置的http 模块简单实现一个HTTP服务器。
1 | var http = require( 'http' ); |
3 | http.createServer( function (request, response) { |
4 | response.writeHead(200, { 'Content-Type' : 'text-plain' }); |
5 | response.end( 'Hello World\n' ); |
以上程序创建了一个HTTP服务器并监听8124 端口,打开浏览器访问该端口http://127.0.0.1:8124/ 就能够看到效果。
豆知识: 在*nix系统下,监听1024以下端口需要root权限。因此,如果想监听80或443端口的话,需要使用sudo 命令启动程序。
API走马观花
我们先大致看看NodeJS提供了哪些和网络操作有关的API。这里并不逐一介绍每个API的使用方法,官方文档已经做得很好了。
HTTP
官方文档: http:///api/http.html
'http'模块提供两种使用方式:
首先我们来看看服务端模式下如何工作。如开门红中的例子所示,首先需要使用.createServer 方法创建一个服务器,然后调用.listen 方法监听端口。之后,每当来了一个客户端请求,创建服务器时传入的回调函数就被调用一次。可以看出,这是一种事件机制。
HTTP请求本质上是一个数据流,由请求头(headers)和请求体(body)组成。例如以下是一个完整的HTTP请求数据内容。
6 | Content-Type: application/x-www-form-urlencoded |
可以看到,空行之上是请求头,之下是请求体。HTTP请求在发送给服务器时,可以认为是按照从头到尾的顺序一个字节一个字节地以数据流方式发送的。而http 模块创建的HTTP服务器在接收到完整的请求头后,就会调用回调函数。在回调函数中,除了可以使用request 对象访问请求头数据外,还能把request 对象当作一个只读数据流来访问请求体数据。以下是一个例子。
01 | http.createServer( function (request, response) { |
04 | console.log(request.method); |
05 | console.log(request.headers); |
07 | request.on( 'data' , function (chunk) { |
11 | request.on( 'end' , function () { |
12 | body = Buffer.concat(body); |
13 | console.log(body.toString()); |
17 | ------------------------------------ |
19 | { 'user-agent' : 'curl/7.26.0' , |
22 | 'content-length' : '11' , |
23 | 'content-type' : 'application/x-www-form-urlencoded' } |
HTTP响应本质上也是一个数据流,同样由响应头(headers)和响应体(body)组成。例如以下是一个完整的HTTP请求数据内容。
2 | Content-Type: text/plain |
4 | Date: Tue, 05 Nov 2013 05:31:38 GMT |
在回调函数中,除了可以使用response 对象来写入响应头数据外,还能把response 对象当作一个只写数据流来写入响应体数据。例如在以下例子中,服务端原样将客户端请求的请求体数据返回给客户端。
01 | http.createServer( function (request, response) { |
02 | response.writeHead(200, { 'Content-Type' : 'text/plain' }); |
04 | request.on( 'data' , function (chunk) { |
05 | response.write(chunk); |
08 | request.on( 'end' , function () { |
接下来我们看看客户端模式下如何工作。为了发起一个客户端HTTP请求,我们需要指定目标服务器的位置并发送请求头和请求体,以下示例演示了具体做法。
07 | 'Content-Type' : 'application/x-www-form-urlencoded' |
11 | var request = http.request(options, function (response) {}); |
13 | request.write( 'Hello World' ); |
可以看到,.request 方法创建了一个客户端,并指定请求目标和请求头数据。之后,就可以把request 对象当作一个只写数据流来写入请求体数据和结束请求。另外,由于HTTP请求中GET 请求是最常见的一种,并且不需要请求体,因此http 模块也提供了以下便捷API。
1 | http.get( 'http://www./' , function (response) {}); |
当客户端发送请求并接收到完整的服务端响应头时,就会调用回调函数。在回调函数中,除了可以使用response 对象访问响应头数据外,还能把response 对象当作一个只读数据流来访问响应体数据。以下是一个例子。
01 | http.get( 'http://www./' , function (response) { |
04 | console.log(response.statusCode); |
05 | console.log(response.headers); |
07 | response.on( 'data' , function (chunk) { |
11 | response.on( 'end' , function () { |
12 | body = Buffer.concat(body); |
13 | console.log(body.toString()); |
17 | ------------------------------------ |
19 | { 'content-type' : 'text/html' , |
21 | 'content-length' : '801' , |
22 | date: 'Tue, 05 Nov 2013 06:08:41 GMT' , |
23 | connection: 'keep-alive' } |
HTTPS
官方文档: http:///api/https.html
https 模块与http 模块极为类似,区别在于https 模块需要额外处理SSL证书。
在服务端模式下,创建一个HTTPS服务器的示例如下。
2 | key: fs.readFileSync( './ssl/default.key' ), |
3 | cert: fs.readFileSync( './ssl/default.cer' ) |
6 | var server = https.createServer(options, function (request, response) { |
可以看到,与创建HTTP服务器相比,多了一个options 对象,通过key 和cert 字段指定了HTTPS服务器使用的私钥和公钥。
另外,NodeJS支持SNI技术,可以根据HTTPS客户端请求使用的域名动态使用不同的证书,因此同一个HTTPS服务器可以使用多个域名提供服务。接着上例,可以使用以下方法为HTTPS服务器添加多组证书。
1 | server.addContext( 'foo.com' , { |
2 | key: fs.readFileSync( './ssl/foo.com.key' ), |
3 | cert: fs.readFileSync( './ssl/foo.com.cer' ) |
6 | server.addContext( 'bar.com' , { |
7 | key: fs.readFileSync( './ssl/bar.com.key' ), |
8 | cert: fs.readFileSync( './ssl/bar.com.cer' ) |
在客户端模式下,发起一个HTTPS客户端请求与http 模块几乎相同,示例如下。
08 | var request = https.request(options, function (response) {}); |
但如果目标服务器使用的SSL证书是自制的,不是从颁发机构购买的,默认情况下https 模块会拒绝连接,提示说有证书安全问题。在options 里加入rejectUnauthorized: false 字段可以禁用对证书有效性的检查,从而允许https 模块请求开发环境下使用自制证书的HTTPS服务器。
URL
官方文档: http:///api/url.html
处理HTTP请求时url 模块使用率超高,因为该模块允许解析URL、生成URL,以及拼接URL。首先我们来看看一个完整的URL的各组成部分。
2 | ----------------------------------------------------------------- |
4 | --------------- ---------------------------- |
5 | http: // user:pass @ host.com : 8080 /p/a/t/h ?query=string #hash |
6 | ----- --------- -------- ---- -------- ------------- ----- |
7 | protocol auth hostname port pathname search hash |
我们可以使用.parse 方法来将一个URL字符串转换为URL对象,示例如下。
01 | url.parse( 'http://user:pass@host.com:8080/p/a/t/h?query=string#hash' ); |
05 | host: 'host.com:8080', |
09 | search: '?query=string', |
10 | query: 'query=string', |
12 | path: '/p/a/t/h?query=string', |
13 | href: 'http://user:pass@host.com:8080/p/a/t/h?query=string#hash' } |
传给.parse 方法的不一定要是一个完整的URL,例如在HTTP服务器回调函数中,request.url 不包含协议头和域名,但同样可以用.parse 方法解析。
01 | http.createServer( function (request, response) { |
02 | var tmp = request.url; // => "/foo/bar?a=b" |
16 | href: '/foo/bar?a=b' } |
.parse 方法还支持第二个和第三个布尔类型可选参数。第二个参数等于true 时,该方法返回的URL对象中,query 字段不再是一个字符串,而是一个经过querystring 模块转换后的参数对象。第三个参数等于true 时,该方法可以正确解析不带协议头的URL,例如//www./foo/bar 。
反过来,format 方法允许将一个URL对象转换为URL字符串,示例如下。
8 | 'http://www./p/a/t/h?query=string' |
另外,.resolve 方法可以用于拼接URL,示例如下。
1 | url.resolve( 'http://www./foo/bar' , '../baz' ); |
Query String
官方文档: http:///api/querystring.html
querystring 模块用于实现URL参数字符串与参数对象的互相转换,示例如下。
1 | querystring.parse( 'foo=bar&baz=qux&baz=quux&corge' ); |
3 | { foo: 'bar', baz: ['qux', 'quux'], corge: '' } |
6 | querystring.stringify({ foo: 'bar' , baz: [ 'qux' , 'quux' ], corge: '' }); |
8 | 'foo=bar&baz=qux&baz=quux&corge=' |
Zlib
官方文档: http:///api/zlib.html
zlib 模块提供了数据压缩和解压的功能。当我们处理HTTP请求和响应时,可能需要用到这个模块。
首先我们看一个使用zlib 模块压缩HTTP响应体数据的例子。这个例子中,判断了客户端是否支持gzip,并在支持的情况下使用zlib 模块返回gzip之后的响应体数据。
01 | http.createServer( function (request, response) { |
09 | if ((request.headers[ 'accept-encoding' ] || '' ).indexOf( 'gzip' ) !== -1) { |
10 | zlib.gzip(data, function (err, data) { |
11 | response.writeHead(200, { |
12 | 'Content-Type' : 'text/plain' , |
13 | 'Content-Encoding' : 'gzip' |
18 | response.writeHead(200, { |
19 | 'Content-Type' : 'text/plain' |
接着我们看一个使用zlib 模块解压HTTP响应体数据的例子。这个例子中,判断了服务端响应是否使用gzip压缩,并在压缩的情况下使用zlib 模块解压响应体数据。
07 | 'Accept-Encoding' : 'gzip, deflate' |
11 | http.request(options, function (response) { |
14 | response.on( 'data' , function (chunk) { |
18 | response.on( 'end' , function () { |
19 | body = Buffer.concat(body); |
21 | if (response.headers[ 'content-encoding' ] === 'gzip' ) { |
22 | zlib.gunzip(body, function (err, data) { |
23 | console.log(data.toString()); |
26 | console.log(data.toString()); |
Net
官方文档: http:///api/net.html
net 模块可用于创建Socket服务器或Socket客户端。由于Socket在前端领域的使用范围还不是很广,这里先不涉及到WebSocket的介绍,仅仅简单演示一下如何从Socket层面来实现HTTP请求和响应。
首先我们来看一个使用Socket搭建一个很不严谨的HTTP服务器的例子。这个HTTP服务器不管收到啥请求,都固定返回相同的响应。
01 | net.createServer( function (conn) { |
02 | conn.on( 'data' , function (data) { |
05 | 'Content-Type: text/plain' , |
接着我们来看一个使用Socket发起HTTP客户端请求的例子。这个例子中,Socket客户端在建立连接后发送了一个HTTP GET请求,并通过data 事件监听函数来获取服务器响应。
06 | var client = net.connect(options, function () { |
09 | 'User-Agent: curl/7.26.0' , |
10 | 'Host: www.baidu.com' , |
17 | client.on( 'data' , function (data) { |
18 | console.log(data.toString()); |
灵机一点
使用NodeJS操作网络,特别是操作HTTP请求和响应时会遇到一些惊喜,这里对一些常见问题做解答。
-
问: 为什么通过headers 对象访问到的HTTP请求头或响应头字段不是驼峰的?
答: 从规范上讲,HTTP请求头和响应头字段都应该是驼峰的。但现实是残酷的,不是每个HTTP服务端或客户端程序都严格遵循规范,所以NodeJS在处理从别的客户端或服务端收到的头字段时,都统一地转换为了小写字母格式,以便开发者能使用统一的方式来访问头字段,例如headers['content-length'] 。
-
问: 为什么http 模块创建的HTTP服务器返回的响应是chunked 传输方式的?
答: 因为默认情况下,使用.writeHead 方法写入响应头后,允许使用.write 方法写入任意长度的响应体数据,并使用.end 方法结束一个响应。由于响应体数据长度不确定,因此NodeJS自动在响应头里添加了Transfer-Encoding: chunked 字段,并采用chunked 传输方式。但是当响应体数据长度确定时,可使用.writeHead 方法在响应头里加上Content-Length 字段,这样做之后NodeJS就不会自动添加Transfer-Encoding 字段和使用chunked 传输方式。
-
问: 为什么使用http 模块发起HTTP客户端请求时,有时候会发生socket hang up 错误?
答: 发起客户端HTTP请求前需要先创建一个客户端。http 模块提供了一个全局客户端http.globalAgent ,可以让我们使用.request 或.get 方法时不用手动创建客户端。但是全局客户端默认只允许5个并发Socket连接,当某一个时刻HTTP客户端请求创建过多,超过这个数字时,就会发生socket hang up 错误。解决方法也很简单,通过http.globalAgent.maxSockets 属性把这个数字改大些即可。另外,https 模块遇到这个问题时也一样通过https.globalAgent.maxSockets 属性来处理。
小结
本章介绍了使用NodeJS操作网络时需要的API以及一些坑回避技巧,总结起来有以下几点:
-
http 和https 模块支持服务端模式和客户端模式两种使用方式。
-
request 和response 对象除了用于读写头数据外,都可以当作数据流来操作。
-
url.parse 方法加上request.url 属性是处理HTTP请求时的固定搭配。
-
使用zlib 模块可以减少使用HTTP协议时的数据传输量。
-
通过net 模块的Socket服务器与客户端可对HTTP协议做底层操作。
-
小心踩坑。
|