LieBrother

当才华撑不起野心时,应该静下心来学习;当能力驾驭不了目标时,应该沉下心来历练。


  • 首页

  • 归档

  • 分类

  • 标签

  • 关于

NAT(Network Address Translation)介绍

发表于 2016-03-21   |   分类于 LVS   |     |   阅读次数

通过NAT实现虚拟服务器(VS/NAT)
  由于IPv4中IP地址空间的日益紧张和安全方面的原因,很多网络使用保留IP地址(10.0.0.0/255.0.0.0, 172.16.0.0/255.128.0.0和192.168.0.0/255.255.0.0)[64, 65, 66]。这些地址不在Internet上使用,而是专门为内部网络预留的。当内部网络中的主机要访问Internet或被Internet访问时,就需要 采用网络地址转换(Network Address Translation, 以下简称NAT),将内部地址转化为Internets上可用的外部地址。NAT的工作原理是报文头(目标地址、源地址和端口等)被正确改写后,客户相信 它们连接一个IP地址,而不同IP地址的服务器组也认为它们是与客户直接相连的。由此,可以用NAT方法将不同IP地址的并行网络服务变成在一个IP地址 上的一个虚拟服务。
  VS/NAT的体系结构如图1所示。在一组服务器前有一个调度器,它们是通过Switch/HUB相连接的。这些服务器 提供相同的网络服务、相同的内容,即不管请求被发送到哪一台服务器,执行结果是一样的。服务的内容可以复制到每台服务器的本地硬盘上,可以通过网络文件系 统(如NFS)共享,也可以通过一个分布式文件系统来提供。
NAT体系结构

  客户通过Virtual IP Address(虚拟服务的IP地址)访问网络服务时,请求报文到达调度器,调度器根据连接调度算法从一组真实服务器中选出一台服务器,将报文的目标地址 Virtual IP Address改写成选定服务器的地址,报文的目标端口改写成选定服务器的相应端口,最后将修改后的报文发送给选出的服务器。同时,调度器在连接Hash 表中记录这个连接,当这个连接的下一个报文到达时,从连接Hash表中可以得到原选定服务器的地址和端口,进行同样的改写操作,并将报文传给原选定的服务 器。当来自真实服务器的响应报文经过调度器时,调度器将报文的源地址和源端口改为Virtual IP Address和相应的端口,再把报文发给用户。我们在连接上引入一个状态机,不同的报文会使得连接处于不同的状态,不同的状态有不同的超时值。在TCP 连接中,根据标准的TCP有限状态机进行状态迁移,这里我们不一一叙述,请参见W. Richard Stevens的《TCP/IP Illustrated Volume I》;在UDP中,我们只设置一个UDP状态。不同状态的超时值是可以设置的,在缺省情况下,SYN状态的超时为1分钟,ESTABLISHED状态的超 时为15分钟,FIN状态的超时为1分钟;UDP状态的超时为5分钟。当连接终止或超时,调度器将这个连接从连接Hash表中删除。
  这样,客户所看到的只是在Virtual IP Address上提供的服务,而服务器集群的结构对用户是透明的。对改写后的报文,应用增量调整Checksum的算法调整TCP Checksum的值,避免了扫描整个报文来计算Checksum的开销。
  在一些网络服务中,它们将IP地址或者端口号在报文的数据中传送,若我们只对报文头的IP地址和端口号作转换,这样就会出现不一致性,服务会中断。所以,针 对这些服务,需要编写相应的应用模块来转换报文数据中的IP地址或者端口号。我们所知道有这个问题的网络服务有FTP、IRC、H.323、 CUSeeMe、Real Audio、Real Video、Vxtreme / Vosiac、VDOLive、VIVOActive、True Speech、RSTP、PPTP、StreamWorks、NTT AudioLink、NTT SoftwareVision、Yamaha MIDPlug、iChat Pager、Quake和Diablo。
  下面,举个例子来进一步说明VS/NAT,如图2所示:
NAT例子
  VS/NAT 的配置如下表所示,所有到IP地址为202.103.106.5和端口为80的流量都被负载均衡地调度的真实服务器172.16.0.2:80和 172.16.0.3:8000上。目标地址为202.103.106.5:21的报文被转移到172.16.0.3:21上。而到其他端口的报文将被拒 绝。

Protocol Virtual IP Address Port Real IP Address Port Weight
TCP 202.103.106.5 80 172.16.0.2 80 1
172.16.0.3 8000 2
TCP 202.103.106.5 21 172.16.0.3 21 1

  从以下的例子中,我们可以更详细地了解报文改写的流程。
  访问Web服务的报文可能有以下的源地址和目标地址:

SOURCE 202.100.1.2:3456 DEST 202.103.106.5:80

  调度器从调度列表中选出一台服务器,例如是172.16.0.3:8000。该报文会被改写为如下地址,并将它发送给选出的服务器。

SOURCE 202.100.1.2:3456 DEST 172.16.0.3:8000

  从服务器返回到调度器的响应报文如下:

SOURCE 172.16.0.3:8000 DEST 202.100.1.2:3456

  响应报文的源地址会被改写为虚拟服务的地址,再将报文发送给客户:

SOURCE 202.103.106.5:80 DEST 202.100.1.2:3456

  这样,客户认为是从202.103.106.5:80服务得到正确的响应,而不会知道该请求是服务器172.16.0.2还是服务器172.16.0.3处理的。
参考文章链接
Linux服务器集群系统(三)

LVS简单介绍

发表于 2016-03-21   |   分类于 LVS   |     |   阅读次数

  LVS原意为 Linux Virtual Server,创始人是章文嵩,想了解LVS,最好就是查看章文嵩的LVS博客。这里简单描述LVS。

LVS体系结构
  虚拟服务器的体系结构如下图所示,一组服务器通过高速的局域网或者地理分布的广域网相互连接,在它们的前端有一个负载调度器(Load Balancer)。负载调度器能无缝地将网络请求调度到真实服务器上,从而使得服务器集群的结构对客户是透明的,客户访问集群系统提供的网络服务就像访 问一台高性能、高可用的服务器一样。客户程序不受服务器集群的影响不需作任何修改。系统的伸缩性通过在服务机群中透明地加入和删除一个节点来达到,通过检 测节点或服务进程故障和正确地重置系统达到高可用性。由于我们的负载调度技术是在Linux内核中实现的,我们称之为Linux虚拟服务器(Linux Virtual Server)。
LVS体系结构

LVS项目目标
  Linux Virtual Server项目的目标 :使用集群技术和Linux操作系统实现一个高性能、高可用的服务器,它具有很好的可伸缩性(Scalability)、可靠性(Reliability)和可管理性(Manageability)
LVS实现的3中负载均衡技术

  • Virtual Server via Network Address Translation(VS/NAT)
      通过网络地址转换,调度器重写请求报文的目标地址,根据预设的调度算法,将请求分派给后端的真实服务器;真实服务器的响应报文通过调度器时,报文的源地址被重写,再返回给客户,完成整个负载调度过程。

  • Virtual Server via IP Tunneling(VS/TUN)
      采用NAT技术时,由于请求和响应报文都必须经过调度器地址重写,当客户请求越来越多时,调度器的处理能力将成为瓶颈。为了解决这个问题,调度器把请求报 文通过IP隧道转发至真实服务器,而真实服务器将响应直接返回给客户,所以调度器只处理请求报文。由于一般网络服务应答比请求报文大许多,采用 VS/TUN技术后,集群系统的最大吞吐量可以提高10倍。

  • Virtual Server via Direct Routing(VS/DR)
      VS/DR通过改写请求报文的MAC地址,将请求发送到真实服务器,而真实服务器将响应直接返回给客户。同VS/TUN技术一样,VS/DR技术可极大地 提高集群系统的伸缩性。这种方法没有IP隧道的开销,对集群中的真实服务器也没有必须支持IP隧道协议的要求,但是要求调度器与真实服务器都有一块网卡连 在同一物理网段上。

IPVS(IP虚拟服务器软件)调度器实现了如下八种负载调度算法:

  • 轮叫(Round Robin)
      调度器通过”轮叫”调度算法将外部请求按顺序轮流分配到集群中的真实服务器上,它均等地对待每一台服务器,而不管服务器上实际的连接数和系统负载。

  • 加权轮叫(Weighted Round Robin)
      调度器通过”加权轮叫”调度算法根据真实服务器的不同处理能力来调度访问请求。这样可以保证处理能力强的服务器处理更多的访问流量。调度器可以自动问询真实服务器的负载情况,并动态地调整其权值。

  • 最少链接(Least Connections)
      调度器通过”最少连接”调度算法动态地将网络请求调度到已建立的链接数最少的服务器上。如果集群系统的真实服务器具有相近的系统性能,采用”最小连接”调度算法可以较好地均衡负载。

  • 加权最少链接(Weighted Least Connections)
      在集群系统中的服务器性能差异较大的情况下,调度器采用”加权最少链接”调度算法优化负载均衡性能,具有较高权值的服务器将承受较大比例的活动连接负载。调度器可以自动问询真实服务器的负载情况,并动态地调整其权值。

  • 基于局部性的最少链接(Locality-Based Least Connections)
      ”基于局部性的最少链接” 调度算法是针对目标IP地址的负载均衡,目前主要用于Cache集群系统。该算法根据请求的目标IP地址找出该目标IP地址最近使用的服务器,若该服务器 是可用的且没有超载,将请求发送到该服务器;若服务器不存在,或者该服务器超载且有服务器处于一半的工作负载,则用”最少链接”的原则选出一个可用的服务 器,将请求发送到该服务器。

  • 带复制的基于局部性最少链接(Locality-Based Least Connections with Replication)
      ”带复制的基于局部性最少链接”调度算法也是针对目标IP地址的负载均衡,目前主要用于Cache集群系统。它与LBLC算法的不同之处是它要维护从一个 目标IP地址到一组服务器的映射,而LBLC算法维护从一个目标IP地址到一台服务器的映射。该算法根据请求的目标IP地址找出该目标IP地址对应的服务 器组,按”最小连接”原则从服务器组中选出一台服务器,若服务器没有超载,将请求发送到该服务器,若服务器超载;则按”最小连接”原则从这个集群中选出一 台服务器,将该服务器加入到服务器组中,将请求发送到该服务器。同时,当该服务器组有一段时间没有被修改,将最忙的服务器从服务器组中删除,以降低复制的 程度。

  • 目标地址散列(Destination Hashing)
      ”目标地址散列”调度算法根据请求的目标IP地址,作为散列键(Hash Key)从静态分配的散列表找出对应的服务器,若该服务器是可用的且未超载,将请求发送到该服务器,否则返回空。

  • 源地址散列(Source Hashing)
      ”源地址散列”调度算法根据请求的源IP地址,作为散列键(Hash Key)从静态分配的散列表找出对应的服务器,若该服务器是可用的且未超载,将请求发送到该服务器,否则返回空。

参考文章链接
Linux服务器集群系统(一)

Memcached简单介绍

发表于 2016-03-21   |   分类于 Memcached   |     |   阅读次数

Memcached是什么
  Memcached 是一个高性能的分布式内存对象缓存系统,用于动态Web应用以减轻数据库负载。它通过在内存中缓存数据和对象 来减少读取数据库的次数,从而提供动态、数据库驱动网站的速度。
  相信很多人都用过缓存,在JavaWeb开发中有Ehcache缓存等等,还有很多第三方工具如apache,nginx等可以做静态资源的缓存,同时我们也可以制定自己的缓存机制,缓存数据库查询的数据以减少对数据库的频繁操作。但是很多时候我们总是感觉这些缓存总不尽人意, Memcached可以解决你不少的烦恼问题。
  Memcached基于一个存储键/值对的hashmap。其守护进程是用C写的,但是客户端可以用任何语言来编写(本文使用Java作为例子),并通过memcached协议与守护进程通信。

Memcached使用目的
  通过缓存数据库查询结果,减少数据库访问次数,以提高动态Web应用的速度、提高可扩展性。

Memcached应用机制
  Memcached作为一个分布式内存对象缓存系统,它可以将缓存和应用分离开来,但是每个Memcached服务不会互相通信,而是客户端根据分布式算法将数据库数据保存到不同的Memcached服务器上。
Memcached应用机制

Memcached特点
  1.协议简单
  2.基于libevent的事件处理
  3.内置内存存储方式
  4.Memcached不互相通信的分布式,数据都是通过客户端的分布式算法存储到各个服务器中

其他知识点
  Memcached的API使用32位元的循环冗余校验(CRC-32)计算键值后,将资料分散在不同的机器上。当表格满了以后,接下来新增的资料会以LRU机制替换掉。由于memcached通常只是当作快取系统使用,所以使用memcached的应用程式在写回较慢的系统时(像是后端的数据库)需要额外的程式码更新memcached内的资料
  存储方式:为了提高性能,memcached中保存的数据都存储在memcached内置的内存存储空间中。由于数据仅存在于内存中,因此重启memcached、重启操作系统会导致全部数据消失。另外,内容容量达到指定值之后,就基于LRU(Least Recently Used)算法自动删除不使用的缓存。memcached本身是为缓存而设计的服务器,因此并没有过多考虑数据的永久性问题。

Java代码实现Memcached基本操作
  需要导入jar包:spymemcached
下载链接:spymemcached-2.12.0.jar

  首先需要启动Memcached服务,我是在Linux中测试的:启动命令如下

1
memcached -p 11211 -m 64m -d

  Java客户端测试代码:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
public static void main(String[] args){
try {
MemcachedClient mcc = new MemcachedClient(new InetSocketAddress("127.0.0.1", 11211));
System.out.println("connection success");

// set 向Memcached中设置缓存对象【如果缓存中已有该key的缓存对象,则替换原来的缓存对象】
Future future = mcc.set("runoob", 900, "Free Education");
System.out.println("status : " + future.get());
System.out.println("runoob in cache : " + mcc.get("runoob"));

// add 想Memcached中添加缓存对象【如果缓存中已有该key的缓存对象,则不添加】
Future future1 = mcc.add("test2", 10, "test2-value");
System.out.println("test2 in cache : " + mcc.get("test2"));
Future future2 = mcc.add("test3", 1, "test3-value");
System.out.println("test2 status : " + future1.get());
System.out.println("test2 in cache : " + mcc.get("test2"));

Thread.sleep(1000);
//test3只缓存1秒,测试test3超时后还有没存在,结果是不存在了
System.out.println("after sleep 1s test3 in cache : " + mcc.get("test3"));

//replace 替换掉原来缓存的对象
System.out.println("before replace : " + mcc.get("runoob"));
mcc.replace("runoob", 90, "replace value");
System.out.println("after replace : " + mcc.get("runoob"));

//append 在相应缓存对象后面追加内容
System.out.println("before append : " + mcc.get("runoob"));
mcc.append("runoob", " abc ");
System.out.println("after append : " + mcc.get("runoob"));

//prepend 在相应缓存对象的前面添加内容
System.out.println("before prepend : " + mcc.get("runoob"));
mcc.prepend("runoob", " 123 ");
System.out.println("after prepend : " + mcc.get("runoob"));

//CAS 检查并设置操作
System.out.println("before cas : " + mcc.get("runoob"));
//获取token牌
CASValue casValue = mcc.gets("runoob");
System.out.println("CASValue : " + casValue);
CASResponse casResponse = mcc.cas("runoob", casValue.getCas(), 90, "runoob cas");
System.out.println("CASResponse : " + casResponse);

// delete 删除掉缓存数据
System.out.println("before delete : " + mcc.get("runoob"));
mcc.delete("runoob");
System.out.println("after delete : " + mcc.get("runoob"));

// incr 将缓存数据自增
mcc.set("num", 10, 100);
System.out.println("before incr : " + mcc.get("num"));
System.out.println(mcc.get("num") instanceof Integer);
mcc.incr("num", 10);
System.out.println("after incr : " + mcc.get("num"));

//decr 将缓存数据自减
System.out.println("before decr : " + mcc.get("num"));
mcc.decr("num", 10);
System.out.println("after decr : " + mcc.get("num"));
mcc.shutdown();

// test another memcachedclient can get the object
MemcachedClient mcc1 = new MemcachedClient(new InetSocketAddress("node1", 11211));
System.out.println(mcc1.get("runoob"));
mcc1.shutdown();
} catch (IOException e) {
e.printStackTrace();
System.out.println("connection fail");
} catch (InterruptedException e) {
e.printStackTrace();
} catch (ExecutionException e) {
e.printStackTrace();
}
}

参考文章链接
缓存应用–Memcached分布式缓存简介

从马云说起。。。

发表于 2016-03-17   |   分类于 生活人生   |     |   阅读次数

  前2天看一些资讯,里面讲到马云给新员工培训的内部演讲,以下是全文:

  加入阿里巴巴,我们不承诺你会发财,不承诺你会成功,我们不承诺你会当官,但是我们承诺你会很倒霉、你会很受委屈。“3月9日,马云在阿里巴巴西溪园区报告厅里为800余名入职一年以内的阿里新员工上了一堂名为“百阿必修课”的公开大课。谈到KPI,马云表示,每个人都恨KPI,但如果没有KPI、没有结果导向、没有效率意识、没有组织意识、没有管理意识,就会变成一个梦想者,理想成为空话。此外,马云称最讨厌那些天天说公司不好,还留在公司里的人。”就像老公说老婆不好,老婆说老公不好,又不愿意离婚。
谈理想:希望公司对人类社会进步有贡献
  我们希望阿里巴巴是这么一家公司,希望在中国这个土地上诞生一家对世界经济发展、人类社会进步有贡献的公司。所以我们希望招聘进来的员工,大家都充满这个使命,大家都充满着这个理想,大家都是一起团结,当然我们也有很多的分歧,但是最重要的是点点滴滴把它做下去。
  所以你们可能听了这些以后,会发现公司是不是玩得太虚了,这就是我们公司的与众不同之处。如果你觉得这样的公司不愿意加入,没有关系,听了今天以后,你可以辞去,阿里巴巴的门应该永远要打开,很容易出去,但是很难进来。大家记住,要容易出去,很难进来;如果说容易进来,很难出去,那是监狱。
  我们这家公司未来的85年,我们依旧会按照这样的路线往前走,强大的理想主义加上现实主义的结合,形成我们对于未来的思考、对于世界的思考。
谈使命:让天下没有难做的生意
  我想还是跟大家讲,公司的使命驱动,至少我在这个公司,很重要的工作就是坚持这家公司使命驱动,让天下没有难做的生意,让这家公司以价值观来管理自己,强化文化。
  我们这家公司走的路线也很独特,我们这家公司,我们第一天在湖畔花园的时候提出这句话,叫做“东方的智慧、西方的运作、全世界的大市场”。我们这家公司诞生在中国,阿里巴巴诞生在中国,但阿里巴巴不是一家中国公司,我们当然也不是美国的公司,人家说阿里巴巴是一家什么公司,我们的股东有世界各地的,我跟大家讲,阿里巴巴诞生在中国,但是它是一家全球化的公司。
谈KPI:没有KPI的理想就是空想
  每个人都愿意停留在理想之中,每个人都恨KPI,但如果没有KPI、没有结果导向、没有效率意识、没有组织意识、没有管理意识,那么我个人觉得所有的理想都是空话,我们就变成一个梦想者,胡说八道。
  天下没有完美的组织,为什么,很简单,要想走得快,那你就一个人走,你要想走得远,那就一群人一起走。要一群人一起走,一定要有组织,有组织,一定有时效率不会高,只是组织与组织之间比赛谁效率更高而已。
谈人才:第一大产品是员工,曾经四倍工资都挖不走
  我们希望的第一大产品不是我们的淘宝,不是我们的天猫,不是我们的支付宝,也不是我们的云,也不是我们的菜鸟,我们第一的产品是我们的员工,因为我们相信,我们的员工强大了,我们的产品自然会强大,我们的服务会做好,客户才会满意。
  以前挖我们员工的人很多,那时候我们还在华星大厦,曾经开到四倍工资,只要阿里人能去,给四倍工资,我们一个员工也没去。
谈偏好:最讨厌天天说公司不好,还留在公司里的人
  我们喜欢的人,是提意见、有建设性意见、并且有行动的人,我们讨厌那些天天抱怨的人,我们不喜欢这些人,无论在内网、在外网,我们最讨厌那些天天说公司不好,还留在公司里的人。
  就像老公说老婆不好,老婆说老公不好,又不愿意离婚,我们门是打开的,我们愿意听建议、批评,但是要有行动,大家只有团结一致才能度过难关,而不是碰上灾难麻烦的时候,大家都是互相说你的错。
谈福利:利益一定是自己打下来的
  前几年争论了很久,有些东西我们跟其他公司不一样,我反对有大巴车班车上下班,为什么,不是买不起。员工如果没有车,那去挤地铁、去挤公交车、去骑自行车,保证自己上班不迟到,所有的公司、所有的优秀员工都经历过这一点。
  我告诉大家,即使有班车,迟到的人会更多,放下工作的人会有更多,我们不是在乎加班这点工作,我们在乎的是你是否在乎你的工作,如果你在乎、热爱你的工作,你会早起。
  阿里人记住,利益一定是自己打下来的,没有人的奖金、没有人的收入是别人给你的,而是凭自己的努力。业绩、市场是打下来的,没有人给你们,成绩也是努力出来的。我们为努力鼓掌,为结果付报酬,如果有结果,we pay,如果你很努力,没有结果,我们鼓鼓掌,也很好。

  今晚看了《马云达沃斯44分钟全英文演讲》这段视频。视频如下:

  在知乎上,大家对马云给新员工的演讲有自己的主见。没有好坏之分,看多了一种意见,则多了一份思考的方式。如何评价2016年3月9日马云给新员工的演讲「最讨厌天天说公司不好 还留在公司里的人?
  看了这些后,突然想到了自己。剩下100天就大学毕业了,这4年来我成长了什么?收获了什么?回顾4年太长久了,只是简单的回忆了去年3月份到现在,从一个蠢蠢欲动,想找一份实习来证明自己,到现在真正面对职场,却有些迷茫。这一年成长了么?成长了。长在哪?不知。。。只是觉得多了一份浮躁:浮躁地看待任何事,浮躁地做了任何事,浮躁地面对任何人,浮躁地写着任何代码……也许缺少的就是马云说的《阿甘正传》电影的阿甘所拥有的:Simple,Never give up,人们以为他傻,但他知道他在干做什么。心不够简单,不够努力,太在意别人的看法,在这一年来表现的淋漓尽致呀!!!

个人博客开始

发表于 2016-03-13   |   分类于 生活人生   |     |   阅读次数

当才华撑不起野心时,应该静下心来学习;当能力驾驭不了目标时,应该沉下心来历练。

1…2324
LieBrother

LieBrother

当才华撑不起野心时,应该静下心来学习;当能力驾驭不了目标时,应该沉下心来历练。

120 日志
38 分类
138 标签
© 2016 - 2019 LieBrother
由 Hexo 强力驱动
主题 - NexT.Mist
本站访客数人次  |  本站总访问量次