大数据中的用户画像(persona)

摘要：　

用户画像(persona)的概念最先由交互设计之父Alan Cooper提出:“Personas are a concrete representation of target users.” 是指真实用户的虚拟表明，是创建在一系列属性数据之上的目标用户模型。随着互联网的发展，如今咱们说的用户画像又包含了新的内涵——一般用户画像是根据用户人口学特征、网络浏览内容、网络...

用户画像的含义

用户画像(persona)的概念最先由交互设计之父Alan Cooper提出:“Personas are a concrete representation of target users.” 是指真实用户的虚拟表明，是创建在一系列属性数据之上的目标用户模型。随着互联网的发展，如今咱们说的用户画像又包含了新的内涵——一般用户画像是根据用户人口学特征、网络浏览内容、网络社交活动和消费行为等信息而抽象出的一个标签化的用户模型。构建用户画像的核心工做，主要是利用存储在服务器上的海量日志和数据库里的大量数据进行分析和挖掘，给用户贴“标签”，而“标签”是能表示用户某一维度特征的标识。具体的标签形式能够参考下图某网站给其中一个用户打的标签。

用户画像的做用

提取用户画像，须要处理海量的日志，花费大量时间和人力。尽管是如此高成本的事情，大部分公司仍是但愿能给本身的用户作一份足够精准的用户画像。

那么用户画像有什么做用，能帮助咱们达到哪些目标呢?

大致上能够总结为如下几个方面：

1. 精准营销：精准直邮、短信、App消息推送、个性化广告等。
2. 用户研究：指导产品优化，甚至作到产品功能的私人定制等。
3. 个性服务：个性化推荐、个性化搜索等。
4. 业务决策：排名统计、地域分析、行业趋势、竞品分析等。

用户画像的内容

用户画像包含的内容并不彻底固定，根据行业和产品的不一样所关注的特征也有不一样。对于大部分互联网公司，用户画像都会包含人口属性和行为特征。人口属性主要指用户的年龄、性别、所在的省份和城市、教育程度、婚姻状况、生育状况、工做所在的行业和职业等。行为特征主要包含活跃度、忠诚度等指标。

除了以上较通用的特征，不一样类型的网站提取的用户画像各有侧重点。

之内容为主的媒体或阅读类网站，还有搜索引擎或通用导航类网站，每每会提取用户对浏览内容的兴趣特征，好比体育类、娱乐类、美食类、理财类、旅游类、房产类、汽车类等等。

社交网站的用户画像，也会提取用户的社交网络，从中能够发现关系紧密的用户群和在社群中起到意见领袖做用的明星节点。

电商购物网站的用户画像，通常会提取用户的网购兴趣和消费能力等指标。网购兴趣主要指用户在网购时的类目偏好，好比服饰类、箱包类、居家类、母婴类、洗护类、饮食类等。

消费能力指用户的购买力，若是作得足够细致，能够把用户的实际消费水平和在每一个类目的心理消费水平区分开，分别创建特征纬度。

另外还能够加上用户的环境属性，好比当前时间、访问地点LBS特征、当地天气、节假日状况等。

固然，对于特定的网站或App，确定又有特殊关注的用户纬度，就须要把这些维度作到更加细化，从而能给用户提供更精准的个性化服务和内容。

用户画像的生产

用户特征的提取即用户画像的生产过程，大体能够分为如下几步：

1. 用户建模，指肯定提取的用户特征维度，和须要使用到的数据源。
2. 数据收集，经过数据收集工具，如Flume或本身写的脚本程序，把须要使用的数据统一存放到Hadoop集群。
3. 数据清理，数据清理的过程一般位于Hadoop集群，也有可能与数据收集同时进行，这一步的主要工做，是把收集到各类来源、杂乱无章的数据进行字段提取，获得关注的目标特征。
4. 模型训练，有些特征可能没法直接从数据清理获得，好比用户感兴趣的内容或用户的消费水平，那么能够经过收集到的已知特征进行学习和预测。
5. 属性预测，利用训练获得的模型和用户的已知特征，预测用户的未知特征。
6. 数据合并，把用户经过各类数据源提取的特征进行合并，并给出必定的可信度。
7. 数据分发，对于合并后的结果数据，分发到精准营销、个性化推荐、CRM等各个平台，提供数据支持。

下面以用户性别为例，具体介绍特征提取的过程：

1.提取用户本身填写的资料，好比注册时或者活动中填写的性别资料，这些数据准确率通常很高。

1. 提取用户的称谓，如文本中有提到的对方称呼，例如：xxx先生/女士，这个数据也比较准。
2. 根据用户姓名预测用户性别，这是一个二分类问题，能够提取用户的名字部分(百家姓与性别没有相关性)，而后用朴素贝叶斯分类器训练一个分类器。过程当中遇到了生僻字问题，好比“甄嬛”的“嬛”，因为在名字中出现的少，所以分类器没法进行正确分类。考虑到汉字都是由偏旁部首组成，且偏旁部首也经常具备特殊含义(不少与性别具备相关性，好比草字头倾向女性，金字旁倾向男性)，咱们利用五笔输入法分解单字，再把名字自己和五笔打法的字母一块儿放到LR分类器进行训练。好比，“嬛”字的打法：『 女V+罒L+一G+衣E = VLGE 』，这里的女字旁就颇有女性倾向。
3. 另外还有一些特征能够利用，好比用户访问过的网站，常常访问一些美妆或女性服饰类网站，是女性的可能性就高;访问体育军事类网站，是男性的可能性就高。还有用户上网的时间段，常常深夜上网的用户男性的可能性就高。把这些特征加入到LR分类器进行训练，也能提升必定的数据覆盖率。

数据管理系统

用户画像涉及到大量的数据处理和特征提取工做，每每须要用到多数据来源，且多人并行处理数据和生成特征。所以，须要一个数据管理系统来对数据统一进行合并存储和分发。咱们的系统以约定的目录结构来组织数据，基本目录层级为：/user_tag/属性/日期/来源_做者/。以性别特征为例，开发者dev1从用户姓名提取的性别数据存放路径为 /user_tag/gender/20170101/name_dev1，开发者dev2从用户填写资料提取的性别数据存放路径为 /user_tag/gender/20170102/raw_dev2。

从每种来源提取的数据可信度是不一样的，因此各来源提取的数据必须给出必定的权重，约定通常为0-1之间的一个几率值，这样系统在作数据的自动合并时，只须要作简单的加权求和，并归一化输出到集群，存储到事先定义好的Hive表。接下来就是数据增量更新到HBase、ES、Spark集群等更多应用服务集群。

应用示例：个性化推荐

以电商网站的某种页面的个性化推荐为例，考虑到特征的可解释性、易扩展和模型的计算性能，不少线上推荐系统采用LR(逻辑回归)模型训练，这里也以LR模型举例。不少推荐场景都会用到基于商品的协同过滤，而基于商品协同过滤的核心是一个商品相关性矩阵W，假设有n个商品，那么W就是一个n n的矩阵，矩阵的元素wij表明商品Ii和Ij之间的相关系数。而根据用户访问和购买商品的行为特征，能够把用户表示成一个n维的特征向量U=[ i1, i2, ..., in ]。因而UW能够当作用户对每一个商品的感兴趣程度V=[ v1, v2, ..., vn ]，这里v1便是用户对商品I1的感兴趣程度，v1= i1w11 + i2w12 + in*w1n。若是把相关系数w11, w12, ..., w1n 当作要求的变量，那么就能够用LR模型，代入训练集用户的行为向量U，进行求解。这样一个初步的LR模型就训练出来了，效果和基于商品的协同过滤相似。

这时只用到了用户的行为特征部分，而人口属性、网购偏好、内容偏好、消费能力和环境特征等其余上下文尚未利用起来。把以上特征加入到LR模型，同时再加上目标商品自身的属性，如文本标签、所属类目、销量等数据，以下图所示，进一步优化训练原来的LR模型。从而最大程度利用已经提取的用户画像数据，作到更精准的个性化推荐。

点评：

用户画像是当前大数据领域的一种典型应用，也广泛应用在多款网易互联网产品中。本文基于网易的实践，深刻浅出地解析了用户画像的原理和生产流程。

精确有效的用户画像，依赖于从大量的数据中提取正确的特征，这须要一个强大的数据管理系统做为支撑。网易大数据产品体系中包含的一站式大数据开发与管理平台 – 网易猛犸，正是在网易内部实践中打磨造成的，可以为用户画像及后续的业务目标实现提供数据传输、计算和做业流调度等基础能力，有效下降大数据应用的技术门槛。

上海大数据培训原做，转载请注明出处！后续大数据相关技术文章陆续奉上，请多关注！