即时数据处理

一般数据都是从数据库中获取的,也是本人的惯性思惟。redis

DB->cache。数据库

不要过度依赖数据库网络

程序离不开好架构。必要时刻须要新技术、好架构、好设计。架构

数据库是有损耗的,因此咱们作了各类各样的cache,经过内存减小IO。并发

前后通过了两个案例,深入体会到这点。设计

案例1、内存

煤矿定位。监控

数据从不间断,由井下的硬件设备发送到上位电脑中。而后经过这些数据获得相似于这样的数据,人员位置的变化、变化时间和上下井时间。终端

数据硬件

由井下做业的人员决定,也就是煤矿的规模。一般3-5秒会发送一我的员的数据,也就是12-20/分钟,假如人员有3000人, 每班次下井1000人,一天24小时,数据也不小。

不讨论数据库如何设计,及采用的数据库,也不考虑网络处理模块。依据行业标准,须要实时知道做业人员在井下的位置,数据是不能够迟延的。在矿上监控室会实时观察!从不间断!

固然还有一些实时数据须要观察,例如报警等信息。若是这些数据从数据库中去读取,那对数据库的压力是很是之大的。虽然不须要考虑并发等因素。不管表中的数据是多少,首先须要实时进行写操做,其次实时进行读操做,也就是不间断的去扫表。

案例2、

GPS定位

较上一个系统,数据量不是一个级别。客户的终端数量在10-20万,数据频率1/分钟。24小时不间断。

功能上有些相似,一样须要知道车辆的最新位置。

这两个案例,对于这些即时数据的获取,都是经过读写内存实现的,虽然增长了工做量,也带来了难度,但效果仍是不错的。

分别使用了memchached,redis。

相关文章
相关标签/搜索