《智能产品》 课件 第7章智能产品中的高并发系统设计.pptx

智能产品第七章智能产品中的高并发系统设计 1

课程简介2高并发系统的概念与特点高并发系统的设计原则和方法智能产品中高并发系统的应用案例

31高并发系统的概念与特点高并发系统，全英文名为HighConcurrencySystem，是一种系统运行过程中遇到的一种“短时间内遇到大量操作请求”的情况，主要发生在网络服务、数据库系统、Web服务器等方面，系统需要处理大量用户请求或数据交互的场景（例如：每年的双十一、微博上历次明星热度头条）。这种情况下，系统需要具备高效的并发处理能力，以确保用户可以快速地获得响应，并且系统能够稳定地运行而不会因为负载过重而崩溃。研招网调剂网站由于高并发条件导致系统奔溃的案例

4高并发系统面临着一个共同的挑战：应对瞬间的大量请求。这种情况就像一家商店突然涌入了大批顾客，如果不妥善处理，将会导致排队时间增长、服务速度减慢，甚至引发混乱。为了让系统在这种情况下依然能够顺畅运行，我们需要采取一系列技术手段，来应对这种“客流高峰期”。首先，我们可以优化系统的硬件设施，比如增加服务器的数量或者提升服务器的性能，就像是给商店增加了更多的收银台和更多的服务员一样。其次，我们可以对网络进行优化，确保信息能够快速传递，就像是在商店里开辟更多的出入口以加快顾客的流动一样。此外，我们还可以优化应用程序和数据库，以提升系统的处理能力和效率，就像是优化商店的收银系统和库存管理一样。挑战策略

5在设计智能产品中的高并发系统时，有以下几个特点需要考虑：

6性能指标响应时间（ResponseTime）：从第一次发出请求到收到系统完整响应数据所需时间，直接反映系统响应的快慢。吞吐量（Throughput）：单位时间内系统所处理的用户请求数，直接反映系统的负载能力。每秒请求数（QPS）：服务器在一秒内共处理了多少个请求，主要用于表示“读”请求。每秒事务数（TPS）：即服务器每秒处理的事务数。（一个事务包括“客户机向服务器发送请求+服务器响应”的过程）访问量（PV）：用户每对网站中的1个网页访问1次被记录1次。独立访客（UV）：访问某个站点或点击某个链接的不同IP地址数。（即在同一天内，UV只记录第一次进入网站的具有独立IP地址的访问者，在同一天内访问者再次访问该网站则不计数。）

7高并发绝不意味着只追求高性能。从宏观角度看，高并发系统有高性能、高可用，以及高可扩展等三个基本设计目标。设计目标

8除了上述几个基本特点外，在设计和实现智能产品中的高并发系统时还需要考虑的以下设计因素：设计因素

9智能产品中的高并发系统在设计过程中会面临着一系列挑战：面临的设计挑战

102高并发系统的设计原则和方法高并发系统的设计原则（1）分布式架构设计原则这种原则通常是根据业务和系统规模进行确立的。如果系统规模较大，需要支持高并发和容错性，那么就需要进行分布式架构设计。

11（2）缓存设计原则缓存可以减轻数据库的负载，提高系统的响应速度。当用户需要查询数据信息时，首先会查询缓存。如果缓存中存在数据信息，则直接返回；如果缓存中不存在该数据信息，则从数据库中查询，并将查询结果放入缓存。但是，缓存也存在一些问题，例如缓存雪崩、缓存穿透等问题。因此，在设计缓存时需要考虑缓存的清理策略、缓存的数据一致性等问题。

12（3）异步消息处理原则采用异步消息处理可以分散系统的压力，提高系统的并发性。异步消息处理的主要问题就是消息的顺序性问题。

13（4）数据库设计原则数据库设计需要考虑表设计的规范化和冗余度的问题。在高并发场景下，需要考虑数据库的读写性能、索引的设计等问题。当超市在进行智能化过程中，我们需要一个超市的库存管理系统记录着所有的商品的库存情况，就相当于系统中的数据库。

14（5）负载均衡原则负载均衡是实现高并发的关键技术之一。负载均衡可以实现将请求分散到多台服务器上，实现更好的性能和可用性。但是负载均衡同时也无法考虑服务器的实际负载情况，可能导致某些服务器负载过重，影响性能。

15（6）安全性设计原则在高并发场景下，安全性设计也非常重要。需要考虑数据的加密、防止SQL注入等问题。同时，需要考虑分布式攻击的问题，例如DDoS攻击等。

16高并发系统的设计方法与策略（1）分布式架构设计方法与策略分布式架构是现代系统设计中的一种重要方法，通过将系统的各个部分分布在多个节点上，来提高系统的可扩展性、可用性和性能。

17（2）缓存设计方法与策略

18（3）异步消息处理的方法与策略1）异步消息的发送异步消息发送的主要步骤是：客户端发送消息到消息中间件，消息中间件接受并处理存储消息，消息中间件将消息发送给消息消费者。2）异步消息的处理异步消息处理的主要步骤是：消息消费者从消息队列中获取消息，消息消费者进行消息处理，消息消费者将处理结果发送到消息中间件。

19（4）数