快速响应请求浅谈

排着前不见头后不见尾的队，心里是崩溃的，又进退两难，是一种等待。
叫号，玩手机等，是一种等待。
一句我等你，而后遥遥无期，是一种等待。
此为信物，待我长发及腰...，是一种等待。

关于响应

发起请求，接收到反馈即算响应。响应的内容是想要的结果，或仅是一句安慰，在合适的场景下合适的呈现都能有好的体验，响应顾及这种反馈体验，出发点就对了。

快速响应方式

不一样的应用场景，决定快速响应的方式。

（1）发起型，只关心提交的数据是否到达。

发起型只关心提交是否成功，不关心后续处理过程，此时，应在接收数据成功后当即反馈成功，处理过程交给其它异步线程或进程处理。

（2）实时结果型，等着出结果。

提交请求数据后，若是处理时间较短（如3秒之内），则可处理完成以后反馈结果。不然，可先反馈数据接收成功，提示处理中，而后异步标记处理状态供前端查询或是通知前端进度，此时前端已经收到反馈，而后以一种非阻塞的方式呈现处理进度。

前端也能够是收到反馈以后，直接引导用户进入下一步，进入下一步后，若是已经处理完了则皆大欢喜，未处理完，仍然能够经过状态信息，给用户反馈当前处理状况。

（3）信息查询型

信息查询，一般能够先加载页面，再异步加载查询结果。而数据部分，能够经过使用缓存减小数据库查询，当缓存中存在相关信息时，直接使用缓存中的数据返回。缓存须要适当的刷新策略，简单方式，如无缓存则查询数据库，有则检测是否超过刷新时间决定是否刷新。一般可使用成熟的缓存框架。

快速响应方法

基本原则：尽早反馈

基本方法：先返回，异步处理，再通知

（1）线程化

接收到请求数据后，处理过程以线程方式进行，请求直接返回。以下 c# 代码，假设处理过程耗时 3 秒，则使用如下方式，耗时接近 0 秒。

Stopwatch sw = new Stopwatch();
sw.Start(); -- 计时开始

var thread = new Thread(new ThreadStart(() => {
    // 处理过程
    Thread.Sleep(3000);
}));

thread.Start();            

--  显示耗时
return sw.ElapsedMilliseconds.ToString();

这种方式的主要问题在于，当处理时长偏长而请求数较多时，线程数据会急剧增长可能耗尽全部资源，而使得应用不可用。

（2）线程池

使用线程池能下降反复建立销毁线程的损耗，并对资源的使用加以控制！在 C# 中，咱们能够经过如下线程池的方法达到线程化的效果。

ThreadPool.QueueUserWorkItem((state) => {
    // 处理过程
    Thread.Sleep(3000);
    Debug.Write("处理完毕！");
});

（3）队列化

任务请求不均衡，高峰期特别集中，而应用处理能力有限，此时能够创建一种排队机制，来的任务加入队列，不紧不慢的去执行，能够充分发挥机器性能又不至于超过其处理能力。任务的执行主体简要形式如如下 C# 示例。

/// <summary>
/// 任务执行线程主体
/// </summary>
private void TaskRunning()
{
    while (_Working)
    {
        QueueTask<T> task = null;
        lock (_RunLocker)   
        {
            if (_TaskRunQueue.Count > 0)
            {
                task = _TaskRunQueue.Dequeue();  
            }
        }
        // 还存在任务执行其任务过程
        if (task != null)
        {
            task.Callback(task.ObjectKey, task.Context);
        }
        else
        {
            // 等待新任务通知
            _WaitHandle.WaitOne();
        }
    }
}

（4）中间件

使用中间件，能有效进行应用间的解藕，并使得应用极具扩展性与伸缩性，相关数据丢给中间件，中间件负责分发任务给相关工做进程，并管理好其状态。如 RabbitMQ，经过它能够在不一样应用进程中进行通讯与任务管理。

任务处理方式

（1）发布订阅方式

肯定一个主题，须要该主题相关的数据的应用订阅该主题便可，当数据方发布该主题时，订阅方会收到相应的消息而后触发业务处理。当同一数据（消息）多方应用依据其进行处理时，发布订阅方式很是合适。

（2）生产者消费者方式

当不少耗时任务到达时，能够开启多个工做进程来并行处理这些任务。发起任务方是生产者，工做进程就是消费者，生产一个，空闲工做进程立刻接手一个（即消费一个）。仍然处理不过来了，能够继续增长工做进程。

容错处理

容错处理主要针对任务执行失败的情形，如何确保任务必定有结果的执行。其一，须要确保在任务派发后，其工做进程执行失败时，能自动从新委派给其它工做进程。其二，当分配者自身中断后能恢复任务队列。实现这些，须要有相应的处理机制，如任务执行结果 ACK 通知、持久化消息等。而这些，都有较为成熟的解决方案，如 RabbitMQ 等。