今天来讲一讲TCP 的
TIME_WAIT
的问题。这个问题尽人皆知,不过,这次遇到的是不太一样的场景,前两天也解决了,正好写篇文章,顺便把
TIME_WAIT
的那些事都说一说。对了,这个场景,跟我开源的探活小工具
EaseProbe
有关,我先说说这个场景里的问题,然后,顺着这个场景跟大家好好说一下这个事。
先说一下背景,
EaseProbe
是一个轻量独立的用来探活服务健康状况的小工具,支持http/tcp/shell/ssh/tls/host以及各种中间件的探活,然后,直接发送通知到主流的IM上,如:Slack/Telegram/Discrod/Email/Team,包括国内的企业微信/钉钉/飞书, 非常好用,用过的人都说好 😏。
这个探活工具在每次探活的时候,必须要从头开始建立整个网络链接,也就是说,需要从头开始进行DNS查询,建立TCP链接,然后进行通信,再关闭链接。这里,我们不会设置 TCP 的 KeepAlive 重用链接,因为探活工具除了要探活所远端的服务,还要探活整个网络的情况,所以,每次探活都需要从新来过,这样才能捕捉得到整个链路的情况。
阅读全文
Read More
Loading...
HTTP (Hypertext transfer protocol) 翻译成中文是超文本传输协议,是互联网上重要的一个协议,由欧洲核子研究委员会CERN的英国工程师
Tim Berners-Lee
v发明的,同时,他也是WWW的发明人,最初的主要是用于传递通过HTML封装过的数据。在1991年发布了HTTP 0.9版,在1996年发布1.0版,1997年是1.1版,1.1版也是到今天为止传输最广泛的版本(初始
RFC 2068
在1997年发布, 然后在1999年被
RFC 2616
取代,再在2014年被
RFC 7230
/
7231
/
7232
/
7233
/
7234
/
7235
取代),2015年发布了2.0版,其极大的优化了HTTP/1.1的性能和安全性,而2018年发布的3.0版,继续优化HTTP/2,激进地使用UDP取代TCP协议,目前,HTTP/3 在2019年9月26日 被 Chrome,Firefox,和Cloudflare支持,所以我想写下这篇文章,简单地说一下HTTP的前世今生,让大家学到一些知识,并希望可以在推动一下HTTP标准协议的发展。
HTTP 0.9 / 1.0
0.9和1.0这两个版本,就是最传统的 request – response的模式了,HTTP 0.9版本的协议简单到极点,请求时,不支持请求头,只支持
GET
方法,没了。HTTP 1.0 扩展了0.9版,其中主要增加了几个变化:
阅读全文
Read More
Loading...
这篇文章是下篇,所以如果你对TCP不熟悉的话,还请你先看看上篇《
TCP的那些事儿(上)
》 上篇中,我们介绍了TCP的协议头、状态机、数据重传中的东西。但是TCP要解决一个很大的事,那就是要在一个网络根据不同的情况来动态调整自己的发包的速度,小则让自己的连接更稳定,大则让整个网络更稳定。在你阅读下篇之前,你需要做好准备,本篇文章有好些算法和策略,可能会引发你的各种思考,让你的大脑分配很多内存和计算资源,所以,不适合在厕所中阅读。
TCP的RTT算法
从前面的TCP重传机制我们知道Timeout的设置对于重传非常重要。
设长了,重发就慢,丢了老半天才重发,没有效率,性能差;
设短了,会导致可能并没有丢就重发。于是重发的就快,会增加网络拥塞,导致更多的超时,更多的超时导致更多的重发。
而且,这个超时时间在不同的网络的情况下,根本没有办法设置一个死的值。只能动态地设置。 为了动态地设置,TCP引入了RTT——Round Trip Time,也就是一个数据包从发出去到回来的时间。这样发送端就大约知道需要多少的时间,从而可以方便地设置Timeout——RTO(Retransmission TimeOut),以让我们的重传机制更高效。 听起来似乎很简单,好像就是在发送端发包时记下t0,然后接收端再把这个ack回来时再记一个t1,于是RTT = t1 – t0。没那么简单,这只是一个采样,不能代表普遍情况。
阅读全文
Read More
Loading...
TCP是一个巨复杂的协议,因为他要解决很多问题,而这些问题又带出了很多子问题和阴暗面。所以学习TCP本身是个比较痛苦的过程,但对于学习的过程却能让人有很多收获。关于TCP这个协议的细节,我还是推荐你去看
W.Richard Stevens
的《
TCP/IP 详解 卷1:协议
》(当然,你也可以去读一下
RFC793
以及后面N多的RFC)。另外,本文我会使用英文术语,这样方便你通过这些英文关键词来查找相关的技术文档。
之所以想写这篇文章,目的有三个,
一个是想锻炼一下自己是否可以用简单的篇幅把这么复杂的TCP协议描清楚的能力。
另一个是觉得现在的好多程序员基本上不会认认真真地读本书,喜欢快餐文化,所以,希望这篇快餐文章可以让你对TCP这个古典技术有所了解,并能体会到软件设计中的种种难处。并且你可以从中有一些软件设计上的收获。
最重要的希望这些基础知识可以让你搞清很多以前一些似是而非的东西,并且你能意识到基础的重要。
所以,本文不会面面俱到,只是对TCP协议、算法和原理的科普。
阅读全文
Read More
Loading...
(感谢网友
@我的上铺叫路遥
投稿)
之前发过一篇
二级指针操作单向链表
的例子,显示了C语言指针的灵活性,这次再探讨一个指针操作链表的例子,而且是一种完全不同的用法。
这个例子是linux-1.2.13网络协议栈里的,关于链表遍历&数据拷贝的一处实现。源文件是/net/inet/dev.c,你可以从
kernel.org
官网上下载。
从最早的0.96c版本开始,linux网络部分一直采取TCP/IP协议族实现,这是最为广泛应用的网络协议,整个架构就是经典的OSI七层模型的描述,其中dev.c是属于链路层实现。从功能上看,其位于网络设备驱动程序和网络层协议实现模块之间,作为二者之间的数据包传输通道,一种接口模块而存在——对驱动层的接口函数netif_rx, 以及对网络层的接口函数net_bh。前者提供给驱动模块的中断例程调用,用于链路数据帧的封装;后者作为驱动中断例程
底半部(buttom half)
,用于对数据帧的解析处理并向上层传送。
为了便于理解,这里补充一下网络通信原理和linux驱动中断机制的背景知识。从最底层的物理层说起,当主机和路由器相互之间进行通信的时候,在物理介质上(同轴、光纤等)以电平信号进行传输。主机或路由器的
硬件接口(网卡)
负责收发这些信号,当信号发送到接口,再由内置的
调制解调器(modem)
将数字信号转换成二进制码,这样才能驻留在主机的硬件缓存中。这时接口(网卡)设备驱动程序将通过
硬中断
来获取硬件缓存中的数据,驱动程序是操作系统中负责直接同硬件设备打交道的模块,硬中断的触发是初始化时通过设置控制寄存器实现的,用于通知驱动程序硬件缓存中有新的数据到来。linux卡设备驱动就是在
中断处理例程(ISR)
中将硬件缓存数据拷贝到内核缓存中,打包成数据链路帧进行解析处理,再向上分发到各种协议层。由于ISR上下文是原子性的、中断屏蔽的,整个步骤又较为繁琐,因此全部放在ISR中处理会影响到其它中断响应实时性,于是linux有实现一种bottom half的
软中断
处理机制,将整个ISR一分为二,前半部上下文屏蔽所有中断,专门处理紧急的、实时性强的事务,如拷贝硬件缓存并打包封装,后半部上下文没有屏蔽中断(但代码不可重入),用于处理比较耗时且非紧急事务,包括数据帧的解析处理和分发。下面要讲的net_bh就属于后半部。
我们主要关心的是将链路帧分发到协议层那一段逻辑,下面摘自net_bh函数中的一段代码:
阅读全文
Read More
Loading...
关于性能优化这是一个比较大的话题,在《
由12306.cn谈谈网站性能技术
》中我从业务和设计上说过一些可用的技术以及那些技术的优缺点,今天,想从一些技术细节上谈谈性能优化,主要是一些代码级别的技术和方法。
本文的东西是我的一些经验和知识,并不一定全对,希望大家指正和补充
。
在开始这篇文章之前,大家可以移步去看一下酷壳以前发表的《
代码优化概要
》,这篇文章基本上告诉你——
要进行优化,先得找到性能瓶颈
! 但是在讲如何定位系统性能瓶劲之前,请让我讲一下系统性能的定义和测试,因为没有这两件事,后面的定位和优化无从谈起。
一、系统性能定义
让我们先来说说如何什么是系统性能。这个定义非常关键,如果我们不清楚什么是系统性能,那么我们将无法定位之。我见过很多朋友会觉得这很容易,但是仔细一问,其实他们并没有一个比较系统的方法,所以,在这里我想告诉大家如何系统地来定位性能。 总体来说,系统性能就是两个事:
Throughput
,吞吐量。也就是每秒钟可以处理的请求数,任务数。
Latency
, 系统延迟。也就是系统在处理一个请求或一个任务时的延迟。
一般来说,一个系统的性能受到这两个条件的约束,缺一不可。比如,我的系统可以顶得住一百万的并发,但是系统的延迟是2分钟以上,那么,这个一百万的负载毫无意义。系统延迟很短,但是吞吐量很低,同样没有意义。所以,一个好的系统的性能测试必然受到这两个条件的同时作用。 有经验的朋友一定知道,这两个东西的一些关系:
Throughput越大,Latency会越差。
因为请求量过大,系统太繁忙,所以响应速度自然会低。
Latency越好,能支持的Throughput就会越高。
因为Latency短说明处理速度快,于是就可以处理更多的请求。
二、系统性能测试
经过上述的说明,我们知道要测试系统的性能,需要我们收集系统的Throughput和Latency这两个值。
阅读全文
Read More
Loading...
TCP共有11个网路状态,其中涉及到关闭的状态有5个。
在我们编写网络相关程序的时候,这5个状态经常出现。因为这5个状态相互关联,相互纠缠,而且状态变化触发都是由应用触发,但是又涉及操作系统和网络,所以正确的理解TCP 在关闭时网络状态变化情况,为我们诊断网络中各种问题,快速定位故障有着非常重要的作用和意义。
下是是根据W.Richard Stevens的《TCP/IP详解》一书的TCP状态转换图。
阅读全文
Read More
Loading...
程序员技术练级攻略
“火柴棍式”程序员面试题
简明 Vim 练级攻略
“作环保的程序员,从不用百度开始”
TCP 的那些事儿(上)
AWK 简明教程
做个环保主义的程序员
编程能力与编程年龄
二维码的生成细节和原理
sed 简明教程
如何学好C语言
如何超过大多数人
技术人员的发展之路
疫苗:Java HashMap的死循环
由12306.cn谈谈网站性能技术
缓存更新的套路
应该知道的Linux技巧
别让自己“墙”了自己
TCP 的那些事儿(下)
分布式系统的事务处理
无锁队列的实现
“21天教你学会C++”
Lua简明教程
如何写出无法维护的代码
性能调优攻略
MySQL性能优化的最佳20+条经验
6个变态的C语言Hello World程序
Docker基础技术:Linux Namespace(上)
28个Unix/Linux的命令行神器
我做系统架构的一些原则
业界新闻
(33)
企业应用
(2)
技术新闻
(38)
技术管理
(19)
技术读物
(125)
操作系统
(97)
Unix/Linux
(81)
Windows
(12)
数据库
(11)
杂项资源
(295)
流程方法
(48)
程序设计
(110)
系统架构
(15)
编程工具
(67)
编程语言
(326)
.NET编程
(3)
Ajax开发
(9)
C/C++语言
(74)
Erlang
(1)
Go 语言
(15)
Java语言
(32)
PHP脚本
(11)
Python
(23)
Ruby
(5)
Rust 语言
(1)
Web开发
(106)
网络安全
(36)
职场生涯
(40)
趣味问题
(19)
轶事趣闻
(147)