springboot~高并发下耗时操做的实现

高并发下的耗时操做

高并发下,就是请求在一个时间点比较多时,不少写的请求打过来时,你的服务器承受很大的压力,当你的一个请求处理时间长时,这些请求将会把你的服务器线程耗尽,即你的主线程池里的线程将不会再有空闲状态的,再打过来的请求,将会是502了。前端

请求流程图

http1        http2                http3
thread1    thread2            thread3

解决方案

使用DeferredResult来实现异步的操做,当一个请求打过来时,先把它放到一个队列时,而后在后台有一个订阅者,有相关主题的消息发过来时,这个订阅者就去消费它,这一步能够是分布式的,好比一个秒杀场景,当N多的请求打过来时,有一些请求命中后,它们进行写操做,这时写操做压力很大,1个请求能够要处理3秒,对于高并发场景这是不能允许的,由于你这样占用的服务器线程资源太长了,很快你的服务器就没有可用的线程资源了,这时就能够用到DeferredResult这处理。spring

代码实现

创建订单的接口,只负责简单的校验和事件的发布服务器

/**
     * 异步创建高并发的订单.
     *
     * @return
     */
    @GetMapping("/create-order")
    public DeferredResult<Object> createOrder() {
        DeferredResult<Object> deferredResult = new DeferredResult<>((long) 3000, "error order");
        logger.info("发布创建订单的事件");
        applicationEventPublisher.publishEvent(deferredResult);
        return deferredResult;
    }

异步的订单处理核心逻辑,也是耗时的操做并发

@Component
@EnableAsync
public class OrderListener {

    static Logger logger = LoggerFactory.getLogger(OrderListener.class);

    /**
     * 事实上它是一个订单队列的消费者,在后台写订单,本例使用简单的事件监听器实现异步处理的功能.
     *
     * @return
     */
    @EventListener
    @Async
    public String processOrder(DeferredResult<Object> deferredResult) throws InterruptedException {
        logger.info("处理订单并返回到对应的Http上下文");
        String order = UUID.randomUUID().toString();
        Thread.sleep(2000);//假设处理数据须要5秒,前端须要阻塞5秒,但http主线程已经释放了,比较适合IO密集型场合
        //当设置以后,create-order将成功响应
        deferredResult.setResult(order);
        return order;
    }
}

测试结果

当请求/create-order后,服务器在处理2秒后,返回结果,而spring后台真正作的是,线程1在事件发布后,它成为空闲状态,其它请求能够复用它,当processOrder后台处理结果后,spring又会用线程池中拿一个新的线程处理剩下的逻辑!app

相关文章
相关标签/搜索