基于小程序·云开发构建高考查分小程序丨实战

2019高考报名人数达到了 1031 万的新高,做为一名三年前参考高考的准程序猿,赶在高考前,加班加点从零开始作了一款高考查分小程序,算是一名老学长送给学弟学妹们的高考礼。上线仅 1 个月,用户数就突破了 1k,关于小程序的介绍就很少说了,能够去搜【历年高考分数线查询】体验,今天主要谈谈技术原理和实现细节。git

图片描述

数据来源

小程序后台共收录近 30w 条数据,包含 2008-2017 年全部重点高校的各个批次的文理分科录取分数线以及 2008-2018 全部采用新课标一卷、新课标二卷、新课标三卷以及部分自主命题省份的从提早批到高职专科批的录取分数线,勉强称得上内容翔实。github

图片描述

全部数据均采集自各大院校和各高考相关网站,因为数据量巨大,为提升速度,使用了 concurrent.futures (须要 Python3.5+) 模块里的 ThreadPoolExecutor 来构建线程池来并发执行多任务。sql

数据库采用的是 PgSQL,一款号称世界上最强大的开源数据库产品,全部数据均存在新建的 gaokao 数据库中,其下有两个表,university(院校的录取分)和 province(省份的批次线)数据库

university 表说明json

字段 解释
name 院校名称
stu_loc 生源地
stu_wl 文理科
pc 录取批次
year 年份
score 录取平均分

province 表说明小程序

字段 解释
year 年份
stu_loc 考生所在地
stu_wl 文理科
pc 批次
control 本批次最低控制线

30w 的数据量,多个站点,并发爬取,数据冲突是不可避免地,在执行插入以前,首先过滤掉残缺不全的数据,好比在插入 university 表时某条数据缺乏 pc 字段,那么这条记录就应该被舍弃,最严重的是数据重复,我采用的解决办法是:先查询待插入的数据是否已经存在, university 表的主码是(name,stu,stu_wl,pc,year),由于现实约束一个院校只能在一个年份在一个类别一个批次只能有一个录取平均分,若是不存在,才执行最后的插入,并 commit 提交事务。后端

后台搭建

在 30w 条数据拿到后,我打算后台采用 Flask+PgSQL 的模式实现,甚至在后台在阿里云服务器部署好,小程序端在开发者工具联调经过以后,小程序上线遇到到一个大麻烦,由于小程序要求线上运行不能经过 ip 地址访问后台,必须经过备案的域名访问,域名购买一个倒不麻烦,只是域名备案比较耗时间,须要一周多时间,而当时距离高考也就不到 5 天,在手足无措之时,无心间看到小程序云开发,关于小程序云开发,官网的介绍是:微信小程序

开发者可使用云开发开发微信小程序、小游戏,无需搭建服务器,便可使用云端能力。

云开发为开发者提供完整的原生云端支持和微信服务支持,弱化后端和运维概念,无需搭建服务器,使用平台提供的 API 进行核心业务开发,便可实现快速上线和迭代,同时这一能力,同开发者已经使用的云服务相互兼容,并不互斥。数组

也就是说,只要把数据导入小程序自带的后台,就能经过小程序平台的 API 访问到这些数据,之前了解过第三方的 LeanCloud云 和 Bomb 云,没想到小程序如今集成了这些功能,不得不佩服一下腾讯。promise

也就是,接下来的后台的工做是主要是导入数据,查询小程序后台可知,后台支持导入 json 或者 csv 格式的数据。因而我就写了个脚本,把数据从本地数据库导出到 json 文件中:

import psycopg2
import json

# 链接 pgsql 数据库,为保证隐私,密码已隐藏
conn = psycopg2.connect(database="gaokao", user="postgres", password="*******", host="127.0.0.1", port="5432")
cur = conn.cursor()

cur.execute('select stu_loc,year,stu_wl,pc,control from province')
result = []
query_res = cur.fetchall()
for i in query_res:
    item = {}
    item['stu_loc'] = i[0]
    item['year'] = i[1]
    item['wl'] = i[2]
    item['pc'] = i[3]
    item['score'] = i[4]
    result.append(item)
# indent=2 控制 json 格式的缩进
# ensure_ascii 控制中文的正常显示
with open("province.json", 'w', encoding="utf-8") as f:
    f.write(json.dumps(result, indent=2, ensure_ascii=False))

这里还有有个坑须要说明一下,小程序后台要求的 json 格式和咱们日常意义上的 json 格式还有点区别,首先,json 的全部内容不能被 [ 和 ] 包括起来,并且每一个被 {} 所包括得数据项之间不能有逗号。

图片描述

选用 notepad++ 打开原来的 json 文件,使用替换功能就能解决,把 [ 和 ] 替换成空格,把 },替换成 } 便可。

修改以后,在小程序后台经过导入该 json 文件,后台搭建就基本完成了。

小程序端编写

关于小程序端的编写,我主要谈谈两点经验,第一是页面的编写,好比下面这个界面。

图片描述

最开始想实现这样的效果,彻底没有思路,最后在从自定义模态弹窗那获得了思路,一开始地区院校这个下拉框对应的布局是隐藏的,在 wxml 文件中经过 hidden=true 控制,一点击 地区/院校 下拉框,就把 hidden 置为 false,若是开始有其余下拉框对应的布局的 hidden 属性是 false 的话,同时要把这些布局的 hidden 属性置为 true 来隐藏其余布局,固然,这里的 true or false 须要在 js 里经过 setData() 动态修改,把修改后的数据从数据层渲染到视图层。

第二是关于小程序云开发的原生 Bug,查询后台时一次只能最多查询到 20 条数据,要实现一次获得全部匹配的结果,须要解决两个问题,第一个问题很天然而然就能想到,第一次查到 20 条数据后,第二次跳过前 20 条再取 20 条,第三次跳过前 40 条再取 20 条,以此类推;还有一个更为致命的问题,查询后台的 API 获取结果的回调函数的 异步 的,也就是说,为了保证得到完整数据,第二次查询须要写在第一次查询的回调里,第三次查询须要写在第二次查询的回调里,并且你还不能显式地知道要查询多少次,须要写多少层这样的嵌套,以及烦人的同名变量覆盖问题,这就是所谓的 异步地狱。为了解决这个问题,须要咱们编写代码把这个异步方法转成同步的,具体作法是:

先在所要添加功能的js页面中导入 runtime.js 文件,同时把runtime.js文件放入相应文件夹

const regeneratorRuntime = require("../runtime");

runtime.js 下载地址:https://github.com/inspurer/CampusPunchcard/blob/master/runtime.js

同时模仿下例代码完成业务逻辑:

// 查询可能较慢,最好加入加载动画​
wx.showLoading({
          title: '加载中',
        })
        const countResult = await db.collection('province').where({
          stu_loc: name,
          pc: pici,

        }).count()
        const total = countResult.total
        //计算需分几回取
        const batchTimes = Math.ceil(total / MAX_LIMIT)
        // 承载全部读操做的 promise 的数组
        //初次循环获取云端数据库的分次数的promise数组
        for (let i = 0; i < batchTimes; i++) {
          const promise = await db.collection('province').where({
            stu_loc: name,
            pc: pici,
          }).skip(i * MAX_LIMIT).limit(MAX_LIMIT).get()
          //二次循环根据​获取的promise数组的数据长度获取所有数据push到newResult数组中
          for (let j = 0; j < promise.data.length; j++) {
            var item = {};
            item.code = i * MAX_LIMIT + j;
            item.name = promise.data[j].stu_loc;
            item.year = promise.data[j].year;
            item.wl = promise.data[j].wl;
            item.pc = promise.data[j].pc;
            item.score = promise.data[j].score;
            console.table(promise.data)
            newResult.push(item)
          }
        }
        if (newResult.length != 0) {
          that.setData({
            hasdataFlag: true,
            resultData: newResult
          })
        } else {
          that.setData({
            hasdataFlag: false,
            resultData: newResult
          })
        }
        // 隐藏加载动画
        wx.hideLoading()

以上就是我本次开发的一些心得体会,欢迎批评指正。

源码连接

https://github.com/TencentClo...

若是你有关于使用云开发CloudBase相关的技术故事/技术实战经验想要跟你们分享,欢迎留言联系咱们哦~比心!

图片描述

相关文章
相关标签/搜索