测试周期可按项目的开发周期来肯定测试时间,通常测试时间为两三周(即15个工做日),根据项目状况以及版本质量可适当缩短或延长测试时间。正式测试前先向主管确认项目排期。ios
测试任务开始前,检查各项测试资源。数据库
--产品功能需求文档;缓存
--产品原型图;安全
--产品效果图;服务器
--行为统计分析定义文档;网络
--测试设备(ios3.1.3-ios5.0.1;Android1.6-Android4.0;Winphone7.1及以上;Symbian v3/v5/Nokia Belle等);app
--其余。框架
1)测试人员天天需对所测项目发送测试日报。布局
2)测试日报所包含的内容为:性能
--对当前测试版本质量进行分级;
--对较严重的问题进行例举,提示开发人员优先修改;
--对版本的总体状况进行评估。
3)产品上线前,测试人员发送产品上线报告。
4)上线报告所包含的内容为:
---对当前版本质量进行分级;
---附上测试报告(功能测试报告、兼容性测试报告、性能测试报告以及app可用性能标准结果);
--总结上线版本的基本状况。如有遗留问题必须列出并记录解决方案。
1)扣费风险:包括发送短信、拨打电话、链接网络等
2)隐私泄露风险:包括访问手机信息、访问联系人信息等
3)对App的输入有效性校验、认证、受权、敏感数据存储、数据加密等方面进行检测
4)限制/容许使用手机功能接入互联网
5)限制/容许使用手机发送接受信息功能
6)限制/容许应用程序来注册自动启动应用程序
7)限制或使用本地链接
8)限制/容许使用手机拍照或录音
9)限制/容许使用手机读取用户数据
10) 限制/容许使用手机写人用户数据
11) 检测App的用户受权级别、数据泄漏、非法受权访问等
1)应用程序应能正确安装到设备驱动程序上
2)可以在安装设备驱动程序上找到应用程序的相应图标
3)是否包含数字签名信息
4)JAD文件和JAR包中包含的全部托管属性及其值必需是正确的
5)JAD文件显示的资料内容与应用程序显示的资料内容应一致
6)安装路径应能指定
7)没有用户的容许, 应用程序不能预先设定自动启动
8)卸载是否安全, 其安装进去的文件是否所有卸载
9)卸载用户使用过程当中产生的文件是否有提示
10)其修改的配置信息是否复原
11)卸载是否影响其余软件的功能
12)卸载应该移除全部的文件
1)当将密码或其余的敏感数据输人到应用程序时, 其不会被储存在设备中, 同时密码也不会被解码
2)输人的密码将不以明文形式进行显示
3)密码, 信用卡明细, 或其余的敏感数据将不被储存在它们预输人的位置上
4)不一样的应用程序的我的身份证或密码长度必需至少在4一8 个数字长度之间
5)当应用程序处理信用卡明细, 或其余的敏感数据时, 不以明文形式将数据写到其它单独的文件或者临时文件中。以6)防止应用程序异常终止而又没有侧除它的临时文件, 文件可能遭受人侵者的袭击, 而后读取这些数据信息。
7)当将敏感数据输人到应用程序时, 其不会被储存在设备中
8)备份应该加密, 恢复数据应考虑恢复过程的异常�通信中断等, 数据恢复后再使用前应该通过校验
9)应用程序应考虑系统或者虚拟机器产生的用户提示信息或安全替告
10)应用程序不能忽略系统或者虚拟机器产生的用户提示信息或安全警告, 更不能在安全警告显示前,,利用显示误导信息欺骗用户,应用程序不该该模拟进行安全警告误导用户
11)在数据删除以前,应用程序应当通知用户或者应用程序提供一个“取消”命令的操做
12)“ 取消” 命令操做可以按照设计要求实现其功能
13)应用程序应当可以处理当不容许应用软件链接到我的信息管理的状况
14)当进行读或写用户信息操做时, 应用程序将会向用户发送一个操做错误的提示信息
15)在没有用户明确许可的前提下不损坏侧除我的信息管理应用程序中的任何内容Μ
16)应用程序读和写数据正确。
17)应用程序应当有异常保护。
18)若是数据库中重要的数据正要被重写, 应及时告知用户
19)能合理地处理出现的错误
20)意外状况下应提示用户
1)在运行其软件过程当中, 若是有来电、SMS、EMS、MMS、蓝牙、红外等通信或充电时, 是否能暂停程序,优先处理通讯, 并在处理完毕后能正常恢复软件, 继续其原来的功能
2)当创立链接时, 应用程序可以处理由于网络链接中断, 进而告诉用户链接中断的状况
3)应能处理通信延时或中断
4)应用程序将保持工做到通信超时, 进而发送给用户一个错误信息指示有链接错误
5)应能处理网络异常和及时将异常状况通报用户
6)应用程序关闭或网络链接再也不使用时应及时关闭) 断开
7) HTTP、HTTPS覆盖测试
--App和后台服务通常都是经过HTTP来交互的,验证HTTP环境下是否正常;
--公共免费网络环境中(如:麦当劳、星巴克等)都要输入用户名和密码,经过SSL认证来访问网络,须要对使用HTTP Client的library异常做捕获处理。
1)返回菜单总保持可用
2)命令有优先权顺序
3)声音的设置不影响应用程序的功能
4)应用程序必需利用目标设备适用的全屏尺寸来显示上述内容
5)应用程序必需可以处理不可预知的用户操做, 例如错误的操做和同时按下多个键
验证App是否能正确安装、运行、卸载以及操做过程和操做先后对系统资源的使用状况
1)软件在不一样操做系统(Palm OS、Symbian、Linux、Android、iOS、Black Berry OS 6.0、Windows Phone 7)下安装是否正常。
2)软件安装后的是否可以正常运行,安装后的文件夹及文件是否写到了指定的目录里。
3)软件安装各个选项的组合是否符合概要设计说明
4))软件安装向导的UI测试
5)软件安装过程是否能够取消,点击取消后,写入的文件是否如概要设计说明处理
6)软件安装过程当中意外状况的处理是否符合需求(如死机,重启,断电)
7)安装空间不足时是否有相应提示
8)安装后没有生成多余的目录结构和文件
9)对于须要经过网络验证之类的安装,在断网状况下尝试一下
10)还须要对安装手册进行测试,依照安装手册是否能顺利安装
1)直接删除安装文件夹卸载是否有提示信息。
2)测试系统直接卸载程序是否有提示信息。
3)测试卸载后文件是否所有删除全部的安装文件夹。
4)卸载过程当中出现的意外状况的测试(如死机、断电、重启)。
5)卸载是否支持取消功能,单击取消后软件卸载的状况 。
6)系统直接卸载UI测试,是否有卸载状态进度条提示 。
测试用户界面(如菜单、对话框、窗口和其它可规控件)布局、风格是否知足客户要求、文字是否正确、页面是否美观、文字、图片组合是否完美、操做是否友好等。
UI测试的目标是确保用户界面会经过测试对象的功能来为用户提供相应的访问或浏觅功能。确保用户界面符合公司或行业的标准。包括用户友好性、人性化、易操做性测试。
1)按钮、对话框、列表和窗口等;或在不一样的链接页面之间须要导航
2)是否易于导航,导航是否直观
3)是否须要搜索引擎
4)导航帮助是否准确直观
5)导航与页面结构、菜单、链接页面的风格是否一致
1)横向比较。各控件操做方式统一
2)自适应界面设计,内容根据窗口大小自适应
3)页面标签风格是否统一
4)页面是否美观
5)页面的图片应有其实际意义而要求总体有序美观
6)图片质量要高且图片尺寸在设计符合要求的状况下应尽可能小
7)界面总体使用的颜色不宜过多
1)输入框说明文字的内容与系统功能是否一致
2)文字长度是否加以限制
3)文字内容是否表意不明
4)是否有错别字
5)信息是否为中文显示
6)是否有敏感性词汇、关键词
7)是否有敏感性图片,如:涉及版权、专利、隐私等图片
根据软件说明或用户需求验证App的各个功能实现,采用以下方法实现并评估功能测试过程:
1)采用时间、地点、对象、行为和背景五元素或业务分析等方法分析、提炼App的用户使用场景,对比说明或需求,整理出内在、外在及非功能直接相关的需求,构建测试点,并明确测试标准,若用户需求中无明确标准遵循,则须要参考行业或相关国际标准或准则。
2)根据被测功能点的特性列丼出相应类型的测试用例对其进行覆盖,如;涉及输入的地方须要考虑等价、边界、负面、异常或非法、场景回滚、关联测试等测试类型对其进行覆盖。
3)在测试实现的各个阶段跟踪测试实现与需求输入的覆盖状况,及时修正业务或需求理解错误。
1)App安装完成后的试运行,可正常打开软件。
2)App打开测试,是否有加载状态进度提示。
3)App打开速度测试,速度是否可观。
4)App页面间的切换是否流畅,逻辑是否正确
5)注册
--同表单编辑页面
--用户名密码长度
--注册后的提示页面
--前台注册页面和后台的管理页面数据是否一致
--注册后,在后台管理中页面提示
6)登陆
--使用合法的用户登陆系统。
--系统是否容许屡次非法的登录,是否有次数限制。
--使用已经登录的帐号登录系统是否正确处理。
--使用禁用的帐号登录系统是否正确处理。
--用户名、口令(密码)错误或漏填时可否登录。
--删除或修改后的用户,原用户登录。
--不输入用户口令和用户、重复点(肯定或取消按钮)是否容许登录。
--登录后,页面中登录信息。
--页面中有注销按钮。
--登录超时的处理。
7)注销
--注销原模块,新的模块系统可否正确处理。
--终止注销可否返回原模块,原用户。
--注销原用户,新用户系统可否正确处理。
--使用错误的帐号、口令、无权限的被禁用的帐号进行注销
1) APP切换到后台,再回到app,检查是否停留在上一次操做界面。
2) APP切换到后台,再回到app,检查功能及应用状态是否正常,IOS4和IOS5的版本的处理机制有的不同。
3) app切换到后台,再回到前台时,注意程序是否崩溃,功能状态是否正常,尤为是对于从后台切换回前台数据有自动更新的时候。
4) 手机锁屏解屏后进入app注意是否会崩溃,功能状态是否正常,尤为是对于从后台切换回前台数据有自动更新的时候。
5) 当App使用过程当中有电话进来中断后再切换到app,功能状态是否正常
6) 当杀掉app进程后,再开启app,app可否正常启动。
7) 出现必须处理的提示框后,切换到后台,再切换回来,检查提示框是否还存在,有时候会出现应用自动跳过提示框的缺陷。
8) 对于有数据交换的页面,每一个页面都必须要进行先后台切换、锁屏的测试,这种页面最容易出现崩溃。
不少应用提供免登陆功能,当应用开启时自动以上一次登陆的用户身份来使用app.
1) app有免登陆功能时,须要考虑IOS版本差别。
2) 考虑无网络状况时可否正常进入免登陆状态。
3) 切换用户登陆后,要校验用户登陆信息及数据内容是否相应更新,确保原用户退出。
4) 根据MTOP的现有规则,一个账户只容许登陆一台机器。因此,须要检查一个账户登陆多台手机的状况。原手机里的用户须要被踢出,给出友好提示。
5) app切换到后台,再切回前台的校验
6) 切换到后台,再切换回前台的测试
7) 密码更换后,检查有数据交换时是否进行了有效身份的校验
8) 支持自动登陆的应用在进行数据交换时,检查系统是否能自动登陆成功而且数据操做无误。
9) 检查用户主动退出登陆后,下次启动app,应停留在登陆界面
根据应用的业务规则,以及数据更新量的状况,来肯定最优的数据更新方案。
1) 须要肯定哪些地方须要提供手动刷新,哪些地方须要自动刷新,哪些地方须要手动+自动刷新。
2) 肯定哪些地方从后台切换回前台时须要进行数据更新。
3) 根据业务、速度及流量的合理分配,肯定哪些内容须要实时更新,哪些须要定时更新。
4) 肯定数据展现部分的处理逻辑,是每次从服务端请求,仍是有缓存到本地,这样才能有针对性的进行相应测试。
5) 检查有数据交换的地方,均有相应的异常处理。
不少应用会支持离线浏览,即在本地客户端会缓存一部分数据供用户查看。
1) 在无网络状况能够浏览本地数据
2) 退出app再开启app时能正常浏览
3) 切换到后台再切回前台能够正常浏览
4) 锁屏后再解屏回到应用前台能够正常浏览
5) 在对服务端的数据有更新时会给予离线的相应提示
1) 当客户端有新版本时,有更新提示。
2) 当版本为非强制升级版时,用户能够取消更新,老版本能正常使用。用户在下次启动app时,仍能出现更新提示。
3) 当版本为强制升级版时,当给出强制更新后用户没有作更新时,退出客户端。下次启动app时,仍出现强制升级提示。
4) 当客户端有新版本时,在本地不删除客户端的状况下,直接更新检查是否能正常更新。
5) 当客户端有新版本时,在本地不删除客户端的状况下,检查更新后的客户端功能是不是新版本。
6) 当客户端有新版本时,在本地不删除客户端的状况下,检查资源同名文件如图片是否能正常更新成最新版本。若是以上没法更新成功的,也都属于缺陷。
1) App有用到相机,定位服务时,须要注意系统版本差别
2) 有用到定位服务、照相机服务的地方,须要进行先后台的切换测试,检查应用是否正常。
3) 当定位服务没有开启时,使用定位服务,会友好性弹出是否容许设置定位提示。当肯定容许开启定位时,能自动跳转到定位设置中开启定位服务。
4) 测试定位、照相机服务时,须要采用真机进行测试。
客户端能够自行设置手机的时区、时间,所以须要校验该设置对app的影响。
--中国为东8区,因此当手机设置的时间非东8区时,查看须要显示时间的地方,时间是否展现正确,应用功能是否正常。时间通常须要根据服务器时间再转换成客户端对应的时区来展现,这样的用户体验比较好。好比发表一篇微博在服务端记录的是10:00,此时,华盛顿时间为22:00,客户端去浏览时,若是设置的是华盛顿时间,则显示的发表时间即为22:00,当时间设回东8区时间时,再查看则显示为10:00。
1) 检查push消息是否按照指定的业务规则发送
2) 检查不接受推送消息时,检查用户不会再接收到push.
3) 若是用户设置了免打扰的时间段,检查在免打扰时间段内,用户接收不到PUSH。
在非免打扰时间段,用户能正常收到push。
4) 当push消息是针对登陆用户的时候,须要检查收到的push与用户身份是否相符,没有错误地将其它人的消息推送过来。通常状况下,只对手机上最后一个登陆用户进行消息推送。
5) 测试push时,须要采用真机进行测试。
评估App的时间和空间特性 :
1)极限测试:在各类边界压力状况下,如电池、存储、网速等,验证App是否能正确响应。
--内存满时安装App
--运行App时手机断电
--运行App时断掉网络
2)响应能力测试:测试App中的各种操做是否知足用户响应时间要求 。
--App安装、卸载的响应时间
--App各种功能性操做的影响时间
3)压力测试:反复/长期操做下、系统资源是否占用异常。
--App反复进行安装卸载,查看系统资源是否正常
--其余功能反复进行操做,查看系统资源是否正常
4)性能评估:评估典型用户应用场景下,系统资源的使用状况。
5)Benchmark测试(基线测试):与竞争产品的Benchmarking, 产品演变对比测试等。
针对智能终端应用的服务等级划分方式及实时特性所提出的测试方法。交叉测试又叫事件或冲突测试,是指一个功能正在执行过程当中,同时另一个事件或操做对该过程进行干扰的测试。如;App在前/后台运行状态时与来电、文件下载、音乐收听等关键运用的交互状况测试等。交叉事件测试很是重要,能发现不少应用中潜在的性能问题。
1) 多个App同时运行是否影响正常功能
2) App运行时前/后台切换是否影响正常功能
3) App运行时拨打/接听电话
4) App运行时发送/接收信息
5) App运行时发送/收取邮件
6) App运行时切换网络(2G、3G、wifi)
7) App运行时浏览网络
8) App运行时使用蓝牙传送/接收数据
9) App运行时使用相机、计算器等手机自带设备
主要测试内部和外部兼容性
1)与本地及主流App是否兼容
2)基于开发环境和生产环境的不一样,检验在各类网络链接下(WiFi、GSM、GPRS、EDGE、WCDMA、CDMA1x、CDMA2000、HSPDA等),App的数据和运用是否正确
3)与各类设备是否兼容,如有跨系统支持则须要检验是否在各系统下,各类行为是否一致
--不一样操做系统的兼容性,是否适配
--不一样手机屏幕分辨率的兼容性
--不一样手机品牌的兼容性
1)Bug修复后且在新版本发布后须要进行回归测试。
2)Bug修复后的回归测试在交付前、要进行全量用例的回归测试。
新版版发布后,配合不一样网络环境的自劢更新提示及下载、安装、更新、启劢、运行的验证测试。
1)测试升级后的功能是否与需求说明同样
2)测试与升级模块相关的模块的功能是否与需求一致
3)升级安装意外状况的测试(如死机、断电、重启)
4)升级界面的UI测试
5)不一样操做系统间的升级测试
以主观的普通消费者的角度去感知产品或服务的温馨、有用、易用、友好亲切程度。 经过不一样个体、独立空间和非经验的统计复用方式去有效评价产品的体验特性提出修改意见提高产品的潜在客户满意度。
1)是否有空数据界面设计,引导用户去执行操做。
2)是否滥用用户引导。
3)是否有不可点击的效果,如:你的按钮此时处于不可用状态,那么必定要灰掉,或者拿掉按钮,不然会给用户误导
4)菜单层次是否太深
5)交互流程分支是否太多
6)相关的选项是否离得很远
7)一次是否载入太多的数据
8)界面中按钮可点击范围是否适中
9)标签页是否跟内容没有从属关系,当切换标签的时候,内容跟着切换
10)操做应该有主次从属关系
11)是否定义Back的逻辑。涉及软硬件交互时,Back键应具体定义
12)是否有横屏模式的设计,应用通常须要支持横屏模式,即自适应设计
1)手机开锁屏对运行中的App的影响
2)切换网络对运行中的App的影响
3)运行中的App先后台切换的影响
4)多个运行中的App的切换
5)App运行时关机
6)App运行时重启系统
7)App运行时充电
8)App运行时kill掉进程再打开
手机的网络目前主要分为2G、3G、wifi。目前2G的网络相对于比较慢,测试时尤为要注意此块的测试。
1) 无网络时,执行须要网络的操做,给予友好提示,确保程序不出现crash。
2) 内网测试时,要注意选择到外网操做时的异常状况处理。
3) 在网络信号很差时,检查功能状态是否正常,确保不因提交数据失败而形成crash。
4) 在网络信号很差时,检查数据是否会一直处于提交中的状态,有无超时限制。如遇数据交换失败时要给予提示。
5) 在网络信号很差时,执行操做后,在回调没有完成的状况下,退出本页面或者执行其余操做的状况,有无异常状况。此问题也会常常出现程序crash。
后台服务牵涉到DNS、空间服务商的状况下会影响其稳定性,如:当出现域名解析故障时,你对后台API的请求极可能就会出现404错误,抛出异常。这时须要对异常进行正确的处理,不然可能会致使程序不能正常工做。
服务端通常会提供JSON格式的数据给客户端,因此咱们在服务端须要进行接口测试,确保服务端提供的接口并转换的JSON内容正确,对分支、异常流有相应的返回值。此块测试能够采用itest框架进行测试。最方便的是采用httpclient进行接口测试。
进行服务端测试时,须要开发提供一份接口文档。
1)通常的增、删、改、查测试。
2) 当表不存在时是否能自动建立,当数据库表被删除后可否再自建,数据是否还能自动从服务端中获取回来并保存。
3) 在业务须要从服务端取回数据保存到客户端的时候,客户端可否将数据保存到本地。
4) 当业务须要从客户端取数据时,检查客户端数据存在时,app数据是否能自动从客户端数据中取出,仍是仍然会从服务器端获取?检查客户端数据不存在时,app数据可否自动从服务器端获取到并保存到客户端
5) 当业务对数据进行了修改、删除后,客户端和服务端是否会有相应的更新。