在PyODPS DataFrame自定义函数中使用pandas、scipy和scikit-learn

背景

PyODPS DataFrame 提供了相似 pandas 的接口，来操做 ODPS 数据，同时也支持在本地使用 pandas，和使用数据库来执行。

PyODPS DataFrame 除了支持相似 pandas 的 map 和 apply 方法，也提供了 MapReduce API 来扩展 pandas 语法以适应大数据环境。

PyODPS 的自定义函数是序列化到 MaxCompute 上执行的，MaxCompute 的 Python 环境只包含了 numpy 这一个第三方包，用户经常问的问题是，如何在自定义函数里使用 pandas、scipy 或者 scikit-learn 这样的包含c代码的库？

如今，MaxCompute 在 sprint 27 及更高版本的 isolation，让在自定义函数中使用这些包成为可能。同时，
PyODPS也须要至少0.7.4版本 。接下来我会详细介绍使用步骤。

步骤

上传第三方包（只需作一次）

这个步骤只须要作一次，当 MaxCompute 资源里有了这些包，这一步直接跳过。

如今这些主流的 Python 包都提供了 whl 包，提供了各平台包含二进制文件的包，所以找到能在 MaxCompute 上能运行的包是第一步。

其次，要想在 MaxCompute 上运行，须要包含全部的依赖包，这个是比较繁琐的。咱们能够看下各个包的依赖状况（删除表示已经包含）

包名	依赖
pandas	numpy, python-dateutil, pytz, six
scipy	numpy
scikit-learn	numpy, scipy

因此，咱们一共须要上传 python-dateutil、pytz、pandas、scipy、sklearn、six 这六个包，就能保证 pandas、scipy 和 scikit-learn 可用。

咱们直接经过 http://mirrors.aliyun.com/pypi/simple 来找包。首先是 python-dateutils：http://mirrors.aliyun.com/pypi/simple/python-dateutil/ 。咱们找到最新版，这个包是纯 Python 的包，咱们找到最新版的 zip 包，python-dateutil-2.6.0.zip，下载。

重命名为 python-dateutil.zip，经过 MaxCompute Console 上传资源。

add archive python-dateutil.zip;

pytz 同样，找到 pytz-2017.2.zip。上传不表。

six 找到 six-1.11.0.tar.gz。

接下来，是pandas，对于这种包含c的包，咱们必定要找 名字中包含cp27-cp27m-manylinux1_x86_64 的whl包，这样才能在 MaxCompute 上正确执行。所以，这样咱们找到最新版的包是：pandas-0.20.2-cp27-cp27m-manylinux1_x86_64.whl。

这里咱们把后缀改为zip，上传。

add archive pandas.zip;

其余包也是同样，所以，咱们把它们都列出来：

包名	文件名	上传资源名
python-dateutil	python-dateutil-2.6.0.zip	python-dateutil.zip
pytz	pytz-2017.2.zip	pytz.zip
six	six-1.11.0.tar.gz	six.tar.gz
pandas	pandas-0.20.2-cp27-cp27m-manylinux1_x86_64.zip	pandas.zip
scipy	scipy-0.19.0-cp27-cp27m-manylinux1_x86_64.zip	scipy.zip
scikit-learn	scikit_learn-0.18.1-cp27-cp27m-manylinux1_x86_64.zip	sklearn.zip

至此，所有包上传都已完成。

固然，咱们所有上传也可使用 PyODPS 的资源上传接口来完成，一样只须要操做一遍便可。至于用哪一个，看我的喜爱了。

编写代码验证

咱们写一个简单的函数，里面用到了全部的库，最好是在函数里来 import 这些第三方库。

def test(x):
    from sklearn import datasets, svm
    from scipy import misc
    import numpy as np

    iris = datasets.load_iris()
    assert iris.data.shape == (150, 4)
    assert np.array_equal(np.unique(iris.target),  [0, 1, 2])

    clf = svm.LinearSVC()
    clf.fit(iris.data, iris.target)
    pred = clf.predict([[5.0, 3.6, 1.3, 0.25]])
    assert pred[0] == 0

    assert misc.face().shape is not None

    return x

这段代码只是示例，目标是用到以上所说的全部的包。

写完函数后，咱们写一个简单的 map，记住， 运行时要确保 isolation 打开 ，若是不在 project 级别打开，能够在运行时打开，一个能够设置全局的选项：

from odps import options

options.sql.settings = {'odps.isolation.session.enable': True}

也能够在 execute 方法上指定本次执行打开 isolation。

一样，咱们能够在全局经过 options.df.libraries 指定用到的包，也能够在 execute 时指定。这里，咱们要指定全部的包，包括依赖。下面就是调用刚刚定义的函数的例子。

hints = {
    'odps.isolation.session.enable': True
}
libraries = ['python-dateutil.zip', 'pytz.zip', 'six.tar.gz', 'pandas.zip', 'scipy.zip', 'sklearn.zip']

iris = o.get_table('pyodps_iris').to_df()

print iris[:1].sepal_length.map(test).execute(hints=hints, libraries=libraries)

能够看到，咱们的函数顺利执行。

总结

对于要用到的第三方库及其依赖，若是已经上传，则能够直接编写代码，并指定用到的 libraries 便可；不然，须要按照教程上传第三方库。

能够看到，当第一步上传包作事后，之后每次使用都是优雅的，只需指定 libraries 就能够了。

原文连接