aiCache技术手册简写本文件.docVIP

. ... aiCache技术手册简写本 （来自aiCache admin guide ） aiCache加速原理 由于利用内存作为高速缓存，是一个多线程、轻量级、充分管道化、无堵塞的应用程序设计。（多线程：即为每个核心分配一个线程以优化多核硬件系统。该设计功能目前是世界上独一无二的。）因此，aiCache可处理的请求达到每秒25000个，并且管理数万个并发连接。 访问用户就减少了连接时间，提高了连接效率。 访客向网站发出访问请求,由aiCache负担原始服务器的处理进程做出响应,获取原始服务器的相应网页内容,将其储存在自身的内存中,与 此同时,传送给访客这一缓存的内容;如有另一访客也请求访问之前的相同内容,aiCache毋须再次获取原始服务器上的相应内容,而直接从自身的内存中获 取,将这一内容传送给访客。反之,aiCache也可缓存访客的GET和POST请求。 访客实际面对的是aiCache,与网站之间的通讯完全由aiCache反向代理,而非原始服务器直接响应访客,这将大大加快访客上网流畅 度,有效提升访问量,显著降低带宽占用,减轻原始服务器的繁忙度,加快响应速度,毋须不停地购置大内存,大硬盘,扩容电力设施,增强冷却设备等资源,为服 务器端节省可观的开支！ 　　例如:100请求/秒指向主页,我们用20秒缓存,只从一个原始服务器的请求,就服务20×100-1=1999个请求。结果,因为使用了 这个特别的URL,我们就减少了原始服务器的流量大约2000倍！结果所有实际的目的缓存率是100%。当然,如果对该URL我们取得10请求/秒,那么减少将是200倍。 　　很明显,如果网站上大部分内容以类似的样式缓存,我们能把原始基础结构的负载量减少到几乎为0。 在原始服务器前端安装了aiCache,所有用户的请求由aiCache智能管理，对大量相同内容的请求，aiCache仅仅对服务器请求一次，将数据缓存到ram中，之后响应其他相同请求（将缓存内容直接交付给其他请求）。大大减少了原始web服务器资源占用。这样一来，就达到了节省服务器的目的。从我们的案例中就可以清楚的看到这一点。 aiCache适用环境及特性 论坛,博客,社交网站,在线视频网站,在线购物商店……没有一个详尽的列表,但可以肯定的是,所有的网站都会受益于aiCache。部署 aiCache,您会在购买硬件,服务器托管和人力资源上大大减少花费,同时您的网站也会有更快的访问速度,这会使您为客户提供更好的服务。 　　所有网站或者说任何网站都会从aiCache的应用获益。会有更好的运行时间统计,请求响应效率统计,能够处理网络高峰时带来的网速缓慢问题。主要的好处是远程处理客户请求或响应的缓存和卸载,这是以前从未设计出来的。 EPOLL机制带来超级性能 通过Single Instance(单一实例)结构程序处理方式，aiCache每秒可为25000个请求提供服务，管理上万个同时发生的连接。 仅适用于Linux操作系统的aiCache，采用EPOLL机制，具有无与伦比的可扩展性和网络输入输出的能力。由于它的出现，数以万计的客户同时连接一台服务器（解决著名的C10K难题）开销几乎为零！ 对于那些需要支持的上万连接数目web服务器来说，传统的网络编程方法已经无法满足其需要，传统方法单一进程打开的连接数是有限制的，一般来说是2048个。而epoll则没有这个限制，它所支持的上限是最大可以打开文件的数目，这个数字一般远大于2048,举个例子,在1GB内存的机器上大约是10万左右，一般来说这个数目和系统内存关系很大。 因为epoll的这个特点，可以让我们的aiCache软件成为现实，让aiCache可以轻松的管理上万个连接。 缓存动态内容 传统的缓存产品缓存动态内容时，效率低下，且很可能导致用户提交评论后无法及时看到自己发表的内容。这样的缺陷，让传统缓存技术对动态页面往往无能为力。 然而，aiCache特有的响应驱动终止机制完全可以解决网站动态内容的缓存问题！一旦有用户提交新的信息，aiCache经过分析，会立刻终止当前缓存的内容并将用户请求提交给原始服务器，经其处理后将新的响应返回给用户，并刷新自己缓存的内容，避免出现传统缓存致命的缺点。 含不可缓存内容的网站同样受益 就 aiCache 而言，响应内容可以被归为两大类别，即可缓存的与不可缓存的。由于aiCache 使用了极其有效的，零耗时的请求/响应处理过程，极大减少了web服务器与客户之间持续连接时间。因此，即使您的网站含有大量不可缓存的内容，使用它也会极大提高网站速度。对于可缓存的内容，aiCache利用共享缓存内容机制，将web服务器的负载降至最低。 灵活控制缓存内容 aiCache提供简单，精确，规则的语法式样,让您