Spark项目之电商用户行为分析大数据平台之（一）项目介绍

1、项目概述

本项目主要用于互联网电商企业中，使用Spark技术开发的大数据统计分析平台，对电商网站的各类用户行为（访问行为、购物行为、广告点击行为等）进行复杂的分析。用统计分析出来的数据，辅助公司中的PM（产品经理）、数据分析师以及管理人员分析现有产品的状况，并根据用户行为分析结果持续改进产品的设计，以及调整公司的战略和业务。最终达到用大数据技术来帮助提高公司的业绩、营业额以及市场占有率的目标。

本项目使用了Spark技术生态栈中最经常使用的三个技术框架，Spark Core、Spark SQL和Spark Streaming，进行离线计算和实时计算业务模块的开发。业务模块主要包括如下部分：

（1）用户访问session分析

（2）页面单跳转化率统计

（3）热门商品离线统计

（4）广告流量实时统计4个业务模块。

2、业务模块介绍

2.1　用户访问session分析

该模块主要是对用户访问session进行统计分析，包括session的聚合指标计算、按时间比例随机抽取session、获取天天点击、下单和购买排名前10的品类、并获取top10品类的点击量排名前10的session。该模块能够让产品经理、数据分析师以及企业管理层形象地看到各类条件下的具体用户行为以及统计指标，从而对公司的产品设计以及业务发展战略作出调整。主要使用Spark Core实现。

2.2　页面单跳转化率统计

该模块主要是计算关键页面之间的单步跳转转化率，涉及到页面切片算法以及页面流匹配算法。该模块能够让产品经理、数据分析师以及企业管理层看到各个关键页面之间的转化率，从而对网页布局，进行更好的优化设计。主要使用Spark Core实现。

2.3　热门商品离线统计

该模块主要实现天天统计出各个区域的top3热门商品。而后使用Oozie进行离线统计任务的定时调度；使用Zeppeline进行数据可视化的报表展现。该模块能够让企业管理层看到公司售卖的商品的总体状况，从而对公司的商品相关的战略进行调整。主要使用Spark SQL实现。

2.4　广告流量实时统计

该模块负责实时统计公司的广告流量，包括广告展示流量和广告点击流量。实现动态黑名单机制，以及黑名单过滤；实现滑动窗口内的各城市的广告展示流量和广告点击流量的统计；实现每一个区域每一个广告的点击流量实时统计；实现每一个区域top3点击量的广告的统计。主要使用Spark Streaming实现。