XX系统测试总结报告
1. 引言
1.1. 编写目的
编写该测试总结报告主要有以下几个目的;
? 通过对测试结果的分析,得到对软件质量的评价;
? 分析测试的过程,产品,资源,信息,为以后制定测试计划提供参考; ? 评估测试测试执行和测试计划是否符合;
? 分析系统存在的缺陷,为修复和预防bug提供建议;
1.2. 背景
1.3. 用户群
主要读者:XX项目管理人员,XX项目测试经理
其他读者:XX 项目相关人员。
1.4. 定义
严重 bug:出现以下缺陷,测试定义为严重bug
? 系统无响应,处于死机状态,需要其他人工修复系统才可复原;
? 点击某个菜单后出现“The page cannot be displayed”或者返回异常错误;
? 进行某个操作(增加、修改、删除等)后,出现“The page cannot be displayed”或者返回异常错误;
? 当对必填字段进行校验时,未输入必输字段,出现“The page cannot be displayed”或者返回异常错误;
? 系统定义不能重复的字段输入重复数据后, 出现 “The page cannot be displayed” 或者返回异常错误;
1.5. 测试对象
略。
1.6. 测试阶段 系统测试
1.7. 测试工具 Bugzilla 缺陷管理系统
1.8. 参考资料
《XX 需求和设计说明书》; 《XX 数据字典》;
《XX 后台管理系统测试计划》; 《XX 后台管理系统测试用例》; 《XX 项目计划》;
2. 测试概要
XX 后台管理系统测试从 2007 年 7 月 2 日开始到 2007 年 8 月 10 日结束,共持续 39天,测试功能点 174 个,执行 2385 个测试用例,平均每个功能点执行测试用例 13.7 个,测试共发现 427 个 bug,其中严重级别的 bug68 个,无效 bug44 个,平均每个测试功能点2.2个bug。
XX 总共发布11个测试版本,其中 B1—B5 为计划内迭代开发版本(针对项目计划的基线标识) ,B6-B8 为回归测试版本。计划内测试版本,B1—B4 测试进度依照项目计划时间准时完成测试并提交报告,其中 B4 版本推迟一天发布版本,测试通过增加一个人日,准时完成测试。B5 版本推迟发布2天,测试增加 2个人日,准时完成测试。
B6-B11为计划外回归测试版本,测试增加 5 个工作人日的资源,准时完成测试。
XX 测试通过Bugzilla 缺陷管理工具进行缺陷跟踪管理, B1—B4 测试阶段都有详细的bug分析表和阶段测试报告。
2.1. 进度回顾
2.2. 测试执行
此次测试严格按照项目计划和测试计划执行, 按时完成了测试计划规定的测试对象的测试。针对测试计划规定的测试策略,在测试执行中都有体现,在测试执行过程中,依据测试计划和测试用例,对系统进行了完整的测试。
2.3. 测试用例
2.3.1. 功能性
系统实现的主要功能,包括查询,添加,修改,删除。
系统实现的次要功能,包括为用户分配酒店,为用户分配权限,渠道酒店绑定,渠道RATE 绑定,权限控制菜单按钮。
需求规定的输入输出字段,以及需求规定的输入限制。
2.3.2. 易用性
操作按钮提示信息正确性,一致性,可理解性
限制条件提示信息正确性,一致性,可理解性
必填项标识
输入方式可理解性
中文界面下数据语言与界面语言的一致性
3. 测试环境
3.1. 软硬件环境
3.2. 网络拓扑
`
4. 测试结果
4.1. Bug趋势图
此次黑盒测试总共发布 11个版本, B1—B5 为计划内迭代开发版本(针对项目计划的基线标识) ,B6-B11为进行的回归测试版本,bug版本趋势图如下图所示:
第一阶段,增量确认测试。
时间从 2007 年 7 月 2 日到 2007 年 8 月 3 日。从 Bug 趋势图中可以看出,每个版本的bug数基本维持在60个左右。
B1:从图中看到B1 共有33个BUG,因为 B1 版本有一个功能模块在 B2 版本才开始测试,B1测试模块相对较少,所以B1版本 bug相对较少。
B2:由于 B1 中的一个功能模块增加到 Build 2 中进行测试,这一版本除了对 B1 中的BUG进行验证同时对B1 进行了回归测试,所以 B2中的 bug 数相对 B1出现了明显的增长趋势。 B3:B3 版本因为有 B2 版本的 bug 验收测试,以及 B1,B2 的回归测试,共发现 67 个bug,和B2 基本保持一致。
B4:B4 版本 bug 数有一个下降的趋势,是因为 B4 版本推迟发布,新增加了测试人员参与测试,对系统不够熟悉,以及测试时间紧张,部分测试用例没有执行,测试覆盖度不够,所以发现bug数呈下降趋势。
B5:B5 版本bug数又有一个增加的趋势,主要是由于开发功能模块多,该版本需求定义不明确。
第二阶段,BUG验证和功能回归确认测试。
时间从 2007 年 8月 4 日到 2007 年 8 月 14 日。B6 和 B7 进行了回归测试,B8 没有进行回归测试,只验证了 B1-B7 的bug。
B6:进行第一轮回归测试,发现的 bug 数为 33 个,遗留一个问题,为数据字典种类默认值问题。
B7:进行第二轮回归测试,第一次回归测试没有涉及到权限控制菜单按钮的测试,在本次回归测试的时候,重点进行了这个方面的测试,又发现了大量的权限相关的 bug。
B8:B8 没有进行全面的回归测试,只验证了 B1-B7 未通过验证的 bug,所以该版本的bug数明显比较少。
B9:B9 版本进行了全面的回归测试,同时重点测试了权限控制,所以发先的 bug 数又呈现上升的趋势。测试发现44 个bug,严重级别的bug为 14 个,严重级别的 bug集中在权限控制上, 功能性严重 bug没有发现, 说明权限控制依旧不稳定, 但是系统功能已经稳定。
B10:B10版本验证了B9 版本发现得bug,没有进行全面的回归测试。B10 版本在验证bug的时候,重现打开Bug6个,新增 bug2个,重新打开 bug有 5 个为严重级别 bug,是关于权限控制的 bug,而新发现的bug,1 个为严重级别的 bug,也是属于权限控制的。说明,权限控制还存在着问题, 需要修改权限管理bug,重新发布版本后进行全面的回归测试。B10版本新发现的 bug详细分析见遗留bug分析。
B11:B11中验证了B1—B10未验证的 bug,重点测试了权限控制,同时进行了查询,添加,删除,修改的功能测试,测试过程中未发现 bug。
4.2. Bug严重程度
测试发现的 bug 主要集中在 normal 和 minor 阶段,属于一般性的缺陷,但是测试的时候,出现了68个严重级别的bug,出现严重级别的 bug主要表现在以下几个方面:
? 系统主要功能没有实现;
? 添加数据代码重复后,出现的找不到页面的错误;
? 多语言处理,未考虑非语种代码的情况;
? 数据库设计未考虑系统管理员角色,导致用系统管理员进行操作的时候出现找不到页面错误; ? 权限控制异常;
严重级别bug按版本分布如下:
由严重bug版本分布图可以看出, 严重级别的 bug版本趋势和 bug版本趋势基本是一致的,但是,在B7 和B9版本中年,严重级别的bug明显增多,主要原因是 B7 和 B9 版本测试了权限控制按钮功能,权限问题出现的严重级别的bug比较多。
权限bug主要表现:
? 具有相应按钮操作的权限,页面无相应按钮,无法执行该功能;
? 无相应按钮操作权限,页面有相应按钮,点击按钮能出现权限异常错误;
? 有相应按钮操作权限,有相应按钮,执行该功能出现权限异常错误;
4.3. Bug引入阶段
由上图可以看出,主要为前台编码和页面设计方面的bug,占到了全部 bug的 2/3。
4.4. Bug引入原因
由上图可以看出,主要为前、后台编码和易用性方面的 bug,占到了全部 bug的 2/3。
4.5. Bug状态分布
由bug状态图可以看出,未解决的 bug有 4 个,主要是B8 中新提交的 bug,是关于用户管理的 bug,因为用户权限管理需要重新设计所以,该部分的 bug暂时没有解决。
5. 测试结论
5.1. 功能性
系统正确实现了通过数据字典管理基础数据的功能,实现了数据内容的多语言功能,实现了中英文界面。实现了基础数据管理,酒店集团管理,酒店基础信息管理,渠道管理,代理管理,用户管理的查询,添加,修改,删除的功能,系统还实现了将权限控制细化到菜单按钮的功能。
系统在实现用户管理下的权限管理功能时,存在重大的缺陷,权限控制不严密,权限设计有遗漏。
5.2. 易用性
现有系统实现了如下易用性:
? 查询,添加,删除,修改操作相关提示信息的一致性,可理解性
? 输入限制的正确性
? 输入限制提示信息的正确性,可理解性,一致性
现有系统存在如下易用性缺陷:
? 界面排版不美观
? 输入,输出字段的可理解性差
? 输入缺少解释性说明
? 中英文对应的正确性
? 中英文混排
5.3. 可靠性
现有系统的可靠性控制不够严密,很多控制是通过页面控制实现的,如果页面控制失效,可以向数据库插入数据,引发错误。
现有系统的容错性不高,如果系统出现错误,返回错误类型为找不到页面错误,无法回复到出错前的状态。
5.4. 兼容性
现有系统支持 window 下的 IE 浏览器和傲游浏览器,支持 linux 系统下的 IE 浏览器和火狐浏览器。
现有系统未进行其他兼容性测试。
5.5. 安全性
现有系统控制了以下安全性问题:
? 把某一个登录后的页面保存下来,不能单独对其进行操作不进行登录 ? 直接输入某一页面的Url能否打开页面并进行操作不应该允许。 现有系统未控制以下安全性问题:
? 用户名和密码应对大小写敏感
? 登陆错误次数限制
6. 分析摘要
6.1. 覆盖率
此次测试,所有测试用例都是在中文界面下执行,未在英文界面下执行,测试不包括英文界面下的测试,也不包括正对英文翻译的测试。
此次测试,部分页面需求描述无明确的定义,对输入限制无详细定义,无明确的测试依据,在测试过程中,测试是根据输入字段含义,测试人员理解,以及和项目经理,开发人员沟通获得测试依据,无法保证测试依据的正确性和完整性,因此,没有进行完整的,正确的无效数据的测试,测试覆盖率不够,无法保证测试的有效性和正确性。
下面为此次测试测试用例覆盖率分析图:
6.2. 遗留缺陷的影响
1. 缺陷描述:酒店娱乐项添加页面,“距离”字段无单位,建议增加单位
缺陷影响:距离字段无单位说明,无衡量标准,用户易用性不好
推迟原因:需求定义无单位定义,统一在升级版本中解决
2. 缺陷描述:酒店基础信息管理模块,默认语言设置不一致。用中文查询酒店,进入酒店基础信息模块后,如下模块,语言显示为“请选择”
而其他模块语言显示“中文语言”
缺陷影响:相同功能模块默认语言设置不一致,一致性不好
推迟原因:默认语言设置,目前无统一标准,升级版本中统一
3. 缺陷描述:tomcat日志有乱码,日志无项目名称,查看不方便
缺陷影响:其他项目日志都有项目名称,日志无项目名称,查看不方便
推迟原因:目前的日志为了调试方便,显示了很多其它信息,在项目正式发布时会统一处理的。
4. 缺陷描述:取消政策管理要么,取消时间“天/小时”缺少单位补充字段
缺陷影响:该处因为是两个不同的单位时间,需要有另外一个单位补充字段补充所所填写内容的单位
推迟原因: 该缺陷单位补充字段本来存在, 翻译不够准确, 不能理解为补充单位的字段,需要等翻译完毕后再确认。
5. 缺陷描述:数据字典种类修改,默认值设置后,在调用该数据字典种类的数据字典,默 认值无显示
缺陷影响:数据字典种类的默认值设置后,不能显示设置的默认值,相当于数据字典种类默认值设置功能未实现
推迟原因:该功能暂时不好实现,需要和和系统的默认语种一起处理。
6. 缺陷描述:担保政策管理页面,“Edposit Due”缺少解释行输入描述信息
缺陷影响:缺少解释性输入描述信息,用户不理解应该输入什么内容
推迟原因:需求没有描述,需要解释性说明文字由项目经理整理后,在升级版本中添加
7. 缺陷描述:多媒体添加,文件上传功能未实现
缺陷影响:文件上传功能未实现
推迟原因:该功能暂时不好完成,在下个版本中完成
8. 缺陷描述:参照点添加权限和修改权限单独控制出现权限异常错误
缺陷影响:用户执行添加,修改时,出现权限异常,无法完成任务
推迟原因:B9 版本发现该权限,B10 版本未通过验证,目前该模块开发人员调休,无法修改bug,
9. 缺陷描述:酒店渠道绑定关系权限控制出现权限异常错误
缺陷影响:a>权限控制易用性不好,会引起用户误操作;
b>权限控制错误
推迟原因:B9版本发现该权限,B10版本未通过验证。该模块后台无 insert 权限,只有Update 权限,与其他模块不同,需要重新设置权限控制方式。
10. 缺陷描述:酒店 Rate绑定关系权限控制出现权限异常错误
缺陷影响:a>权限控制易用性不好,会引起用户误操作;
b>权限控制错误
推迟原因:B9版本发现该权限,B10版本未通过验证。该模块后台无 insert 权限,只有Update 权限,与其他模块不同,需要重新设置权限控制方式。
11. 缺陷描述:新建业务管理员权限用户,进入打包促销页面出现权限异常错误
缺陷影响:除系统管理员外,其他用户无法进行打包促销操作
推迟原因:B10版本发现该bug,目前该模块开发人员调休,无法修改 bug
6.3. 建议
? 在项目开始的时候应该制定编码标准,数据库标准,需求变更标准,开发和测试人员都严格
按照标准进行,可以在后期减少因为开发,测试不一致而导致的问题,同时也可以降低沟通成本。
? 发布版本的时候,正确布置测试环境,减少因为测试环境,测试数据库数据的问题而出现的
无效bug。
? 开发人员解决bug的时候,填写bug原因以及解决方式,方便bug的跟踪。
? 开发人员在开发版本上发现 bug,可以通知测试人员,因为开发人员发现的 bug很有可能在
测试版本上出现,而测试人员和开发人员的思路不同,有可能测试人员没有发现该 bug,而且,这样可以保证发现的bug都能够被跟踪。
7. 度量
7.1. 资源消耗
7.2. 缺陷密度
8. 典型缺陷引入原因分析
测试过程中发现的缺陷主要有以下几个方面:
1. 需求定义不明确
需求文档中,存在功能定义错误,输入输出字段描述错误,输入输出字段限制定义错误,输入输出限制定义缺失这几种类型的缺陷。使得开发人员根据需求进行设计时,没有考虑相关功能的关联性,以及需求错误的地方,在测试过程中,需求相关的问题表现出来。需求做改正,设计必须跟着做改动,浪费时间和影响开发人员的积极性,降低开发人员对需求的信任,可能会导致开发人员不按照需求进行设计而根据自己的经验来进行设计。
2. 功能性错误
? 功能没有实现,导致无法进行需求规定的功能的测试。主要是无法进入酒店设施管理,会议室管理页面,酒店安全项管理无法保存信息,地区,房型删除功能缺失。
? 功能实现错误,实现了需求未定义的功能,执行需求定义的功能时系统出现错误。 主要是角色拥有不属于自己的权限,酒店联系人删除页面跳转错误等。
3. 页面设计和需求不一致
页面设计没有根据需求进行, 输入, 输出字段文字错误, 用户无法理解字段含义。页面设计没有完成需求规定的输入限制验证,导致用户可以输入错误的或者无效的数据,这些数据有可能会引起功能性错误。
4. 多语言数据问题
? 系统中很多输入字段是通过调用数据字典的方式输入,但是现有系统中,很多数据字典的多语言信息没有完成, 导致使用多语言的时候, 显示空白字段。
? 系统中很多地方使用多语言,由于多语言编码不统一导致页面设计和数据设计使用语言编码不一致,由此引起的多语言数据无法显示的缺陷。
5. 页面设计易用性缺陷
? 页面设计不友好,系统中很多页面的输入字段无明确的输入提示,用户无法理解何种输入是正确的,但是用户输入错误后,系统提示出错,增加用户负担。
? 提示信息错误,不同模块相同结果的提示信息不一致,用户操作后,相应的提示信息不明确,引起用户误解。
? 提示信息一致性,用户在不同页面执行相同的操作,提示信息不同。
6. 开发人员疏忽引起的缺陷
因为开发人员的疏忽,导致系统需要验证的地方,调用了错误的验证,系统需要进行输入控制的地方没有进行相应的控制。
{项目名称}软件测试总结报告编号:{项目名称缩写}版本:X.X变更记录1项目信息2测试结果2.1测试活动总结2.2测试用例覆盖率统…
湖南大学软件学院Xyz系统系统测试总结报告指导老师:组员:年月文件更改控制目录1.引言......................…
《软件测试工程师管理系统Windows1.0》测试总结报告IWEB公司20xx年x月x日目录1、概述...............…
密级项目测试总结报告测试部软件测试报告目录项目测试总结报告11引言411编写目的412项目背景413系统简介414参考文档42测试…
五、3测试总结报告文件修改控制1.引言1.11.21.31.4222222222222233333333目的背景名词定义参考资料1…
系统测试报告编写规范摘要测试报告是把测试的过程和结果写成文档,并对发现的问题和缺陷进行分析,为纠正软件的存在的质量问题提供依据,同…
XXX项目软件测试报告编制审核批准目录12概述4测试概要421进度回顾422测试环境5221软硬件环境5222网络拓扑5测试结论6…
〖图书管理系统〗测试计划20XX-12-12目录1引言1.1编写目的1.2项目背景1.3定义1.4参考资料2软件概述2.1目标2.…
xxxxxxxxxxxxxxx系统测试报告xxxxxxxxxxx公司20xx年xx月版本修订记录目录1引言1111213142编写…
XX项目系统测试报告目录1引言111编写目的内容读者112项目背景113用户群214基本定义215测试对象216测试阶段317术语…
密级:内部公开文档编号:ChinaOly-系统名称-开发总结报告版本号:V1.0XXX系统开发总结报告杭州中奥科技有限公司修订记录…