Loading [MathJax]/jax/output/CommonHTML/config.js
前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >大数据时代如何提升研发效率

大数据时代如何提升研发效率

原创
作者头像
腾讯移动品质中心TMQ
发布于 2017-12-04 08:38:42
发布于 2017-12-04 08:38:42
1.2K0
举报

作者:刘楚蓉

团队:腾讯移动品质中心TMQ

随着大数据时代兴起,越来越多新领域业务兴起,如智能推荐、内容搜索、机器人对话等,通过传统手段测试无法快速反馈新领域业务质量,本文旨在提供一种解决问题定位效率,提升研发效率的方法思路,可以尝试用于解决功能数据链路长,难以快速定位问题,耗费人力的问题。

一、解决方案思路

传统测试手段可能存在后台服务log不够完善,缺乏上下文信息,且测试与问题解决流程分离,存在问题复现环境构造成本高等问题,本文分享的解决方案核心内容主要是一体化流程解决发现问题-定位问题-解决问题效率问题,通过梳理各层链路功能,对于问题定位的关键信息进行打点,通过平台化展示各层链路的定位信息,发现问题时可即时提bug单,并把bug信息统一收敛到平台,在平台进行问题记录及解决,整体形成信息聚类及bug闭环分析。可作用于搜索、机器人对话、智能推荐等链路复杂的领域,不管是业务体验、功能测试、bug定位、badcase定位,都可以通过平台统一流程化提升研发效率。

二、测试流程

该方法应用于AI对话、搜索、智能推荐等产品中,在平台中,可详细查看功能链路各层处理逻辑及数据,如用户画像、算法逻辑、排序逻辑、分词逻辑等,发现时可在平台直接提bug单并快速解决。

大体测试流程如下:

三、实现框架

数据埋点:主要进行后台模块逻辑梳理,在各环节模块打点,这里跟业务相关,需要分析业务中发现问题时的分析流程及分析信息,进一步尝试把这些信息可视化。

后台交互:主要进行输入请求,拉取结果信息,以及辅助分析的后台各模块log详细信息。需要根据后台服务通讯协议进行交互。

信息管理:主要管理测试过程拉取的上下文信息、log信息、提bug单时的上下文状态、bug单信息。

页面展示:展示测试流程页面、log信息、问题列表、日志字段说明等信息。

四、举个实例

以AI对话为例,本小节分享在AI对话如何通过统一平台提升研发过程问题定位解决效率。

流程说明:

(1)后台信息埋点:主要对后台模块进行关键信息打点,例如控制模块、自然语言处理模块、机器人意图匹配模块等。为避免线上服务影响,后台服务收到请求时识别请求是否带debug标志,如果是,才输出埋点信息。

(2)数据请求:在页面输入对话信息,点击发送后,通过后台请求数据结果,同时拉取该请求在后台模块中处理的逻辑信息。点击log可展开详细的log信息,在不同人员体验过程,详情的log信息可以辅助提升分析效率,如下图所示(为让角色可理解log信息,log信息说明也通过平台化展示):

(3)一键提单:如果发现问题,可在对话界面中点击“记录问题”,输入case描述,便可进行问题记录。此时提单后会记录上下文信息,后台服务log等。

(4)定位解决:开发人员定位解决问题时,可以直接进入平台上问题列表看到提的单,点击可查看详情,且记录了上下文信息及详细的各模块信息辅助分析。

(5)其他分析工具:除了上下文log,在平台中,根据业务需求,也增加了其它辅助分析工具,如文本分析工具,可分析一句话的分词结果正确性,词组的相似词等,可进一步提升问题定位效率。

五、小结

本文分享的是针对目前大数据业务领域因链路复杂、交互服务多而出现的定位问题及解决问题效率低下问题,可以如何通过平台一体化流程实现发现问题-定位问题-解决问题在项目中的快速落地,有效解决传统测试流程中发现问题与定位问题环节隔离,定位效率及解决效率低,投入人力大的问题,进而提升研发效率。平台可以根据各业务不同扩展不同能力,如利用信息聚类实现问题批量分析能力、评测语料管理、测试任务管理等能力。

关注微信公众号腾讯移动品质中心TMQ,获取更多测试干货!

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
腾讯TMQ在线沙龙回顾|大数据
大数据 活动时间:2017年12月20日 斗鱼直播分享 活动介绍:TMQ在线沙龙第三十六期分享 本次分享的主题:大数据。 共有65位测试小伙伴报名参加活动。 想知道活动分享了啥吗? 请往下看吧! 嘉宾 刘楚蓉:腾讯高级测试工程师。过去主要负责移动端产品质量体系建设、自动化工具开发、大数据业务测试等。在移动端质量体系建设及大数据测试方面有丰富的经验。 分享主题 大数据业务介绍 研发效率提升思路 实例分享 问答环节 1、这个平台是使用的什么工具?自己开发的吗?和大数据有什么关系呢? 答:平台开发使用的是
腾讯移动品质中心TMQ
2018/02/08
1.1K0
腾讯TMQ在线沙龙回顾|大数据
QQ 客户端性能稳定性防劣化系统 Hodor 技术方案
盘点了下手 Q 研发流程的困局,现有的手段更着重于线上监控问题并在下个版本修复(甚至是下下个版本),如果能在开发阶段发布前甚至合入 master 之前就把问题扼杀在摇篮之中,就可以达到防劣化的目标。
腾讯云开发者
2024/06/13
9500
QQ 客户端性能稳定性防劣化系统 Hodor 技术方案
大型IM稳定性监测实践:手Q客户端性能防劣化系统的建设之路
防劣化是比较经典的技术话题,手 Q 的防劣化系统从 2021 年 10 月开始投入研发,从 0 到 1 迭代了将近三年的时间,已经达到了业界先进水平。为了守护好手 Q 性能稳定性的门禁,我们将其命名为 Hodor 系统,即 Hold the door!
JackJiang
2024/08/02
1470
大型IM稳定性监测实践:手Q客户端性能防劣化系统的建设之路
腾讯开源微服务 TARS 接口测试揭秘
腾讯移动品质中心TMQ
2017/04/20
6.5K5
爱奇艺全链路自动化监控平台的探索与实践
互联网技术普及过程中,数据的监控对每个公司都很重要。近些年,随着一些优秀监控工具(比如Zabbix、Graphite、Prometheus)的成熟,每个公司都会搭建自己的监控体系,来分析整体业务流量和应对异常报警。但随着系统复杂性的提高,微服务的成熟,监控又有了新的问题需要解决,如上下文的链路关系、跨系统的故障定位等相关问题。
开发者技术前线
2020/11/23
1K0
爱奇艺全链路自动化监控平台的探索与实践
牛逼哄哄的全链路监控系统!搭建起来也没有想象中的那么难啊...
随着微服务架构的流行,服务按照不同的维度进行拆分,一次请求往往需要涉及到多个服务。互联网应用构建在不同的软件模块集上,这些软件模块,有可能是由不同的团队开发、可能使用不同的编程语言来实现、有可能布在了几千台服务器,横跨多个不同的数据中心。因此,就需要一些可以帮助理解系统行为、用于分析性能问题的工具,以便发生故障的时候,能够快速定位和解决问题。
用户8639654
2021/08/23
1.1K0
腾讯课堂停课不停学:监控体系演进
| 导语 疫情来势凶猛,腾讯课堂“停课不停学”专项为千万学子保驾护航。面对一个月内课堂流量的暴涨,监控体系如何在有限的时间内快速发现潜在问题并高效定位,进而保证服务稳定?本文对课堂的监控实践做一个总结,并且对未来监控体系提出一些思考。文章如有错误,欢迎指正~
衡生
2020/05/11
3.4K1
腾讯课堂停课不停学:监控体系演进
全民K歌内存篇1——线上监控与综合治理
一、背景 2020年K歌安卓的白屏反馈和top crash在逐渐恶化,深入分析后,这两个问题的原因都指向了内存不足,我们通过脚本压测直播、歌房等核心场景复现了问题,也实锤了我们的猜想,确定是内存、线程、fd等资源耗尽,app开始出现各种异常。当前需求的性能测试主要依赖我们测试同学的人工覆盖,在K歌需求飞速迭代的情况下,人工性能测试的发现问题能力出现了瓶颈: 测试人力有限,只能覆盖小部分的需求,大量的需求未经过严格的性能测试,可能会带着内存问题发布到外网; 测试场景不足,无法反映外网海量用户的复杂情况,很难
QQ音乐技术团队
2021/02/19
2.6K0
马蜂窝大交通业务监控报警系统架构设计与实现
部门的业务线越来越多,任何一个线上运行的应用,都可能因为各种各样的原因出现问题:比如业务层面,订单量比上周减少了,流量突然下降了;技术层面的问题,系统出现 ERROR ,接口响应变慢了。拿大交通业务来说,一个明显的特点是依赖很多供应商的服务,所以我们还需要关注调用供应商接口是否出现异常等等。
Spark学习技巧
2019/11/28
1.2K0
春节保卫战:腾讯百万 QPS 线上环境云压测方案解析
导语|春节期间腾讯大部分业务进入流量备战的紧张时刻。压测相比于监控而言,是更具主动性的筹备手段。通过高负载、真实流量的预演,探测系统的瓶颈和发现风险,是服务质量保障体系的重要一环。云压测主要聚焦在压测平台的发压端基础能力构建,本文作者张泽强分享云压测备战春节期间从压测模型选型、用例编写、测试数据构建到压测报表分析的压测方案。期望对你有帮助。 目录 1 背景与挑战 2 解决方案     2.1 压测模式选型     2.2 压测用例编写     2.3 测试数据构造     2.4 压测报表分析 3 实践案
腾讯云开发者
2023/02/13
1.2K0
春节保卫战:腾讯百万 QPS 线上环境云压测方案解析
【穿山甲系列】老司机的千里眼——穿山甲SDK
本文讲述了一位技术社区内容编辑人员,通过穿山甲SDK,将日志上报到穿山甲服务器,进行日志分析,解决研发流程中问题。通过这个案例,可以学习到如何利用SDK进行日志上报,进行数据分析,解决研发流程中的问题。
腾讯移动品质中心TMQ
2017/12/20
3.7K0
一个测试工程师走进酒吧,被开发工程师打了一顿
一个测试工程师走进一家酒吧,要了一杯啤酒; 一个测试工程师走进一家酒吧,要了一杯咖啡; 一个测试工程师走进一家酒吧,要了 0.7 杯啤酒; 一个测试工程师走进
腾讯云开发者
2024/05/09
5400
一个测试工程师走进酒吧,被开发工程师打了一顿
知乎数据埋点方案
从业务过程中采集埋点,是数据驱动型公司的必要条件。知乎的产品功能评审环节,不仅有 PRD (Product requirement document),还加入了对应的 DRD ( Data requirement document)。对于埋点而言,DRD 需要明确业务目标与埋点缺口之间的关系以及需求的优先级。埋点的需求大多来自于 DRD,整个过程会涉及多个角色,主要包括产品经理、业务数据负责人、开发工程师、测试工程师。
Spark学习技巧
2018/12/11
6.7K0
知乎数据埋点方案
构建高效的容量保障体系
之前写过性能测试体系建设、质量保障机制构建的文章(见文末超链接),最近重读有一些新的感触。
老_张
2023/03/01
6240
构建高效的容量保障体系
数据采集上报之灯塔SDK详解
作者:jackhuali  腾讯PCG工程师 |导语  灯塔SDK当前的日活终端设备数超过10亿,日事件上报量超过万亿条,灯塔SDK是什么,灯塔SDK做了哪些工作来支撑如此大业务需求的呢?灯塔SDK是怎么保障业务客户端事件数据上报的准确性的呢?带着问题我们接下来一步步进行拆解。 灯塔SDK从2011年左右诞生至今,并随着PCG数据治理地持续推进,灯塔SDK逐步被各个业务线所深度使用,灯塔SDK逐渐收敛其余上报通道,成为了公司级统一的数据上报通道。 以下总结了大家日常对灯塔SDK集成、测试、数据验证等使用过
腾讯大讲堂
2021/05/10
4.3K0
学术大讲堂 |(六)基于大数据的网络智慧运营应用研发
运营商的网络大数据具有实时性高、覆盖业务广、业务价值大等特点,利用网络大数据赋能网络运营智慧化是各运营商的迫切诉求,今天就给大家分享一下我们在利用网络大数据提升移动网智慧运营方面做过的一些实践活动。
灯塔大数据
2019/07/08
1.5K0
【腾讯TMQ】和开发一起写代码,让测试左移起来
本文讲述了一位测试工程师在开发测试左移实践中的经验和教训。作者通过分析测试左移的痛点,提出了自动化测试框架的设计和实现,从而提高测试效率。同时,作者还分享了在实践过程中遇到的问题和解决方案,以及如何在技术社区中分享经验和资源,为其他开发者提供帮助。
腾讯移动品质中心TMQ
2017/02/22
1.6K0
众测白皮书
腾讯移动品质中心TMQ
2017/11/02
3.2K0
众测白皮书
腾讯的专项测试之道
李昶博
2017/09/18
8K1
腾讯的专项测试之道
研发效能提升:vivo AI 搜索平台化建设
作者 | 王兆雄、衷颖杰、刘龙 编辑 | Tina 背    景 在 2021 年下半年,由于业务调整,我们团队在原来已经负责全局搜索服务的基础上,又对接了 i 音乐和 i 主题的搜索服务,在团队人员不变、需求高速迭代、业务规模快速增长的情况下,效能上面临的问题也越发凸显: 没有统一开发模式。三个业务最初是由三个不同的团队分别开发迭代,不同团队有不同的开发模式,导致相同业务逻辑的实现方式千差万别,更多的是根据开发人员自身的喜好或者代码习惯进行开发,缺少统一规范; 缺少公共能力沉淀。由于业务由不同的
深度学习与Python
2023/03/29
4890
研发效能提升:vivo AI 搜索平台化建设
推荐阅读
相关推荐
腾讯TMQ在线沙龙回顾|大数据
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档