★聚合函数
count,sum,min,max,avgjson
var_pop(col) 返回指定列的方差数组
var_samp(col) 返回指定列的样本方差app
stddev_pop(col) 返回指定列的误差(标准差) stddev_pop = stddev函数
stddev_samp(col) 返回指定列的样本误差(标准差)url
covar_pop(col1, col2) 两列数值协方差
若是两个变量的变化趋势一致,那么两个变量之间的协方差就是正值;
若是两个变量的变化趋势相反,那么两个变量之间的协方差就是负值;
若是X与Y是统计独立的,那么两者之间的协方差就是0
covar_samp(col1, col2) 两列数值样本协方差排序
corr(col1, col2) 返回两列数值的相关系数(误差协方)内存
percentile(BIGINT col, p) 返回数值区域的百分比数值点。0<=P<=1,不然返回NULL,不支持浮点型数值。
第p百分位数,大约有p%的数据项的值比第p百分位数小
percentile(BIGINT col, array(p1 [, p2]…))
返回类型也为array<double>,其中为对应的百分位数
percentile_approx(DOUBLE col, p [, B]) 近似中位数函数(percentile的近似值)
参数B控制内存消耗的近似精度,B越大,结果的准确度越高。默认为10,000。
当col字段中的distinct值的个数小于B时,结果为准确的百分位数
percentile_approx(DOUBLE col, array(p1 [, p2]…) [, B]) 字符串
histogram_numeric(col, b) 直方图,
使用b个非均匀间隔的箱子计算组内数字列的柱状图(直方图),
输出的数组大小为b,double类型的(x,y)表示直方图的中心和高度
返回值: array<struct {‘x’,‘y’}> [{"x":100.0,"y":1.0}]
select inline(histogram_numeric(cast(a.amount as int),10)) from a
collect_set(col) 返回消除了重复元素的数组
collect_list(col) 返回容许重复元素的数组get
ntile(INTEGER x) 该函数将已经排序的分区分到x个桶中,并为每行分配一个桶号ast
★内置 Table-Generating函数(UDTF)
explode(ARRAY) 参数列为数组类型,将数组数据中的每一个元素作为一行返回
explode(MAP) 将输入map中的每一个键值对转换为两列,一列为key,另外一列为value,而后返回新行
explode(array<TYPE> a) 对于数组a中的每一个元素,该函数产生包含该元素的行
json_tuple(jsonStr, k1, k2, ...) 参数为一组键k1,k2……和JSON字符串,返回值的元组。
该方法比 get_json_object 高效,由于能够在一次调用中输入多个键
parse_url_tuple(url, p1, p2, ...) 该方法同parse_url() 类似,但能够一次性提取URL的多个部分,
有效的参数名称为: HOST, PATH, QUERY, REF, PROTOCOL, AUTHORITY, FILE, USERINFO, QUERY:<KEY>
posexplode(ARRAY) 行为与参数为数组的explode方法类似,但包含项在原始数组中的位置,返回(pos,value)的二元组
stack(INT n, v_1, v_2, ..., v_k) 将v_1, ..., v_k 分为n行,每行包含n/k列,n必须为常数
●在SELECT中不容许再有其余表达式:不支持SELECT pageid, explode(adid_list) AS myCol... ●UDTF不可以嵌套使用:不支持SELECT explode(explode(adid_list)) AS myCol... ●不支持GROUP BY /CLUSTER BY / DISTRIBUTE BY / SORT BY