简介： iiMedia Research（艾媒咨询）数据显示，在线教育市场规模保持逐年增加的态势，2019年在线教育市场规模已突破4000亿元。在疫情的助推下，在线教育加速渗透，市场空间有望进一步打开，预计2020年中国在线教育市场规模将达到4538亿元。服务器
做者：山猎网络
爱学习教育集团的前身为高思教育，成立于2009年，以中小学课外培训起家，曾经的定位是K12培训机构；2014年，爱学习教育集团发力B端市场，目前在2B领域得到了全国各地办学机构的普遍承认，由K12培训机构升级为K12教育供给平台。架构
2019年4月份，爱学习教育集团完成由华平投资领投的1.4亿美圆D轮融资。2014年之前，做为一家“教育产品研发”企业，爱学习教育集团为3-18岁年龄层的孩子提供个性化的教育产品方案及全部与教育相关的服务，旗下拥有“思泉语文”、“高思数学”、“高思VIP一对一”、“中学理科”等互联网教育产品：“乐乐课堂”、“爱学习”、“爱上古诗”“爱尖子”、“爱提分”等多个全国著名的学习子品牌，这些产品目前已经被大量的中小学辅导机构及公立学校引进，广泛提高了孩子的学习体验和学习效果。并发
2014年，在不断发展进化当中，爱学习教育集团（当时还叫高思教育）毅然决然的转型2B领域。据了解，到2029年，爱学习教育集团但愿服务全球1亿学生和500万老师，助力50万所学校，以引领行业的内容和科技给学生带来美好的学习体验。负载均衡
在线教育市场竞争激烈，爱学习是如何脱颖而出？分布式
丰富的互动场景提高用户体验，稳定性如何实现？
近些年，在线教育行业飞速发展，为整个社会的知识传播提供了史无前例的便利性。经过多种形式的在线教育平台，学员与教师即便相隔万里也能够开展教学活动，真正打破了时间和空间的限制。基于流媒体传输技术兴起的在线课堂，可让师生拥有同处一个教室面对面授课听课的真实体验，受到了广大用户的欢迎。微服务
流媒体传输技术是建设在线课堂类应用须要使用到的核心技术，但要打造一款真正优秀的在线课堂应用，仅仅依靠流媒体传输是不够的，只有融入丰富的课堂互动场景才能提高用户体验，让学员的学习效率倍增。这些互动场景包括提问、发言、跟读、点赞、教材导航、白板内容实时展现等，尽量的提高这些互动场景的操做流畅度，是一款在线课堂类应用竞争力的体现，也是众多在线教育平台技术团队的共同追求。爱学习教育的研发团队，就经过不断迭代的技术手段，将在线课堂互动场景的用户体验提高到了极致。高并发
线上用户量的飞速增加对爱学习研发团队来讲是一个巨大挑战，借助于云计算弹性伸缩能力，视频直播能够直接使用云服务以知足高并发需求，但真正的难题是如何支撑互动场景的稳定运行。成熟的分布式微服务架构经过节点水平扩容能够轻松的应对HTTP请求量的突增，但标准的HTTP通信只能解决由客户端到服务端的单向请求，以下图所示：性能
在线课堂互动场景涉及不一样用户之间的互相通信，以及服务器向客户端的主动消息推送，须要创建相似这样的通信模型：学习
拿课堂发言的场景为例，一位学生提交发言的文字内容后，同一个课堂的其余用户都可以看到这位学生的发言。为了确保发言的内容不违规，最好的方式是服务端先对内容审核一下，过滤掉其中的敏感信息后，再推送给课堂的其余用户，相似这样的流程：
所以，在线课堂互动的本质是服务端和客户端之间的双向消息通信，创建一个健壮、可扩展、高性能、高成本的双向消息通信机制，这是实现线课堂互动场景的技术根基。标准的HTTP协议没有办法实现服务端主动向客户端推送消息的业务场景，所以传统的Web架构没法知足在线课堂互动需求。对于这个难题，业界也存在多种解决方案，最简单的方式是对HTTP进行少量改造，让客户端周期性对服务端进行询问，以拿回属于本身的消息，这就是基于HTTP的轮询(Polling)方案：
这个方案能必定程度上实现服务端主动向客户端推送消息，但性能极差，不但实时性知足不了要求，在没有消息的状况下还会产生大量空轮询。此外还有一种基于HTTP的长轮询(long polling)方案，是对普通轮询方案的改进，能解决空轮询问题，但优化程度很是有限，没有办法知足互动场景对于实时性的要求。
在基于HTTP协议的方案中，能原生实现服务端与客户端双向通信的是WebSocket方案，经过创建WebSocket链接，服务端能实时地将消息推送给客户端，这也是一些基于网页的轻量级IM所广泛采用的方案。爱学习的研发团队也曾考虑过经过WebSocket方案实现课堂互动场景，但通过短暂的预研后，他们发现这个方案存在很大的局限性。在课堂互动场景中，有两个很是明显的特色：
（1）单个消息每每会同时发送给客户端。前面提到的发言场景就是一个很典型的例子，用户在课堂上的发言会被这个课堂的全部其余用户看到。
（2）在线的用户量大，高峰期数万个课堂同时开课。WebSocket方案须要让服务端和每个客户端创建链接，若是须要推送同一笔消息给多个客户端，须要在服务端自行实现这个逻辑。
当用户量急剧上升的时候，这个架构对于服务端会形成巨大的压力，很难支持海量用户同时在线，所以爱学习的研发团队决定弃用WebSocket方案，尝试其余的方式来解决。
基于TCP或UDP自行实现应用层通信协议也是爱学习进行过深刻预研的方案，这种方式灵活度很是高，能够经过定制化的协议对消息的传输实现任意扩展，但要从头至尾设计一套应用层通信协议，是一项极其复杂的工做，须要处理多个难题，如：
• 链接异常如何处理？
• 客户端断线如何重连？
• 消息在传输过程当中丢失如何重发？
• 身份验证和权限管理如何实现？
• 如何保证服务端节点如何实现水平扩容？
这些都是开发要考虑的因素，爱学习的研发团队虽然有能力将这些细节都照顾周全，设计一套适合于自身业务场景的通信协议，但须要投入的时间成本是很是大的，面临的风险也很是高。在业务快速发展的大背景下，研发团队须要和时间赛跑，从新寻找能够快速支撑海量用户同时在线的课堂互动方案。
经过不断技术预研所积累下来的经验，爱学习的研发团队得出了最终的结论：在技术架构上要能作到以下几点，才能知足他们在线课堂互动的需求：
（1）能支撑海量客户端同时在线；
（2）稳定，高可用；
（3）性能不知足要求时，服务端能水平扩展；
（4）经过一个中间模块进行消息分发，减小消息复制的成本；
（5）简单易用，能够快速上线。
这其中，能知足4和5的最佳方案基于MQTT协议来实现。MQTT是一个基于客户端-服务器的消息发布/订阅传输协议，为低带宽和不稳定的网络环境中的设备提供可靠的网络服务。MQTT协议具备设计思想开放、简单、轻量、易用的特色，能提供一对多的消息发布，从而解除应用程序之间的耦合，也提供了消息必达性的保障，是很是适合用于移动客户端消息推送的。
但MQTT毕竟只是一个协议，须要有成熟稳定的产品来支撑，才能用于大规模的商用场景。开源界提供的几套MQTT实现方案，都没有通过严谨的测试和商用考验，客户端数量达到1000个之后性能急剧降低，根本没法支持万级客户端同时在线。
围绕课堂互动场景，爱学习研发团队和阿里云技术专家进行了深刻交流，经过数轮的评估测试后，终于决定使用阿里云微消息队列MQTT来搭建他们的在线课堂互动平台。相比开源方案，阿里云微消息队列MQTT在阿里巴巴内部通过了多年的验证和演进，可以支撑千万级设备在线链接，百万级消息并发，以及毫秒级消息推送。其采用分布式理念进行设计，无单点瓶颈，各组件之间都可以无限水平扩展，确保容量可弹性伸缩，并对用户透明。
在这个架构中，位于互联网上的客户端设备经过标准的MQTT协议接入阿里云微消息队列MQTT。MQTT协议的SDK几乎覆盖了全部主流的开发语言，并且能很是好的适应移动客户端网络不稳定的状况。位于云上的服务器集群经过RocketMQ协议接入消息队列RocketMQ，并经过RocketMQ与MQTT之间的协议转换实现服务端与客户端之间的双向互通。
为何要引入一个新的组件消息队列RocketMQ，并让服务端的实例经过RocketMQ协议接入呢？有三个主要缘由：
（1）相比客户端实例，服务端实例在规模上要小几个数量级，但单实例的消息吞吐量又比客户端要大几个数量级。在一个典型的在线课堂场景中，有数万甚至几十万级的客户端设备同时接入，而每一个客户端每秒钟的消息收发量不会超过10条；服务端的状况就偏偏相反，100个实例的规模集群已是很是大规模的集群了，而每一个服务端实例1秒内可能要处理上万笔消息。服务端和客户端之间自然的区别这就决定了他们须要使用不一样特性的通信协议进行接入，以实现性能和效率的最大化。
（2）当服务端的处理能力存在不足时，消息须要在队列上进行暂存。而RocketMQ的引入为MQTT提供了消息的存储。
（3）服务端集群的多个实例之间隐含着对等和任务分摊的关系，经过RocketMQ的集群消费模式刚好就可以提供原生的负载均衡机制。
回到课堂发言的场景，发言内容提交之后，经过负载均机制，服务端集群中的某一个实例拿到发言内容，在审核完成后，只须要将消息投递给MQTT 云服务，就能分发给同一个课堂的其余用户了。这样对于服务端实例而言，只须要和MQTT云服务创建一个链接，就能同时为上万个用户提供服务。
业务高峰期，当服务端实例出现了性能瓶颈的时候，只须要增长服务端实例的数量，就能水平线性的提高。而MQTT云服务自己的性能提高则更加简单，只须要在规则上进行升配就能够实现，能够作到对应用彻底无感知。
爱学习的研发团队基于这套架构，半个月的时间就搭建了一套完整的课堂互动系统。开发团队不须要在应用层关心弱网络环境、断线重连、异常处理、海量并发、系统高可用等复杂的技术问题，极大程度上下降了开发成本，提高了用户体验。
为了支持“天空之城”计划带来的用户量急剧上升，爱学习教育对这套系统进行了屡次扩容，成功抗住了数次流量洪峰，确保了业务的稳定运行。（补充：为响应教育部“停课不停学”的呼吁，帮助更多本地K12机构及时转型线上，爱学习教育集团推出“天空之城”计划，开放优质内容和在线直播能力。已有9000多家机构选择经过爱学习在线平台进行线上授课，爱学习正在帮助愈来愈多的机构顺利转型，共筑“天空之城”。）
“天空之城”计划受全社会的高度承认的同时，爱学习的研发团队也对系统架构进行持续的迭代，并将MQTT技术用在更多的云端双向互通场景，以应付将来更多的挑战。正如爱学习教育集团联合创始人、集团总裁李川所言：“咱们喜欢作价值更大的事儿，将来还有更美好的期待。”
原文连接 本文为阿里云原创内容，未经容许不得转载。