ETL公用模块设计(MongoDB + spark + Python)

--数据库架构师 之路 场景: 通过ETL流程收集 ,不同的数据源 数据,并放到ods层里。 技术选型:MongoDB + spark + Python 主要考虑行业的复杂度,还有不同的数据来源数据(包含 txt,jpg,excel,rmdb) 后期分析所需要的开发资源,内存计算,有效的发挥DBA 脚本能力。   设计:整体通过配置中心的 进行任务调度,可能有人会问题为什么不用到一些 调度插件像a
相关文章
相关标签/搜索