除了A/B测试,产品经理最爱用的方法是?
我是前微软Yammer产品经理。最近我在给一大群非常了解数据的产品经理们做线下分享时,有一位听众向我抛来了这样一个问题:
如果我们能够做A/B测试,为什么我们还需要定性研究呢?
从表面上看,这个问题看起来似乎有些道理:A/B测试是一套科学的研究方法,减少了产品经理们的认知偏差。
但是,数据并不能代替与用户的直接对话,因为后者给你带来的真切而深入的洞见,是前者无可比拟的。
不过上面这位听众的问题,让我终于有动力去写一篇文章,来阐述为什么我如此确信定性研究对于一位产品经理的重要性。我将从六个方面来解释为什么我们需要使用定性研究而不仅仅是A/B测试(甚至有的时候我们会更偏爱定性研究)。
1. 定性研究可以帮你找到用户行为的真实原因
A/B测试确实能告诉你一个功能或特点对用户有什么影响。比如,可能一些功能让某个按钮的点击率变高了、让用户在你的网页停留得更久了,或者让用户在一段时间内访问得更勤快了。但是这些数据不会告诉你是什么原因导致这些用户行为的改变。
有时候用户这么做只是因为你做了一个更大的按钮,所以更多人点击了它。但更多的时候,原因并没有那么简单。
当你的A/B测试结果不尽人意(比之前效果更差),或模棱两可(比如某些关键指标上升,但其他关键指标下降),或者实验组和控制组在关键指标上没有显著变化时,你会采取什么行动呢?
在得到了一个不佳的A/B测试结果后,产品经理们都会问:用户到底有没有注意到新功能?他们是不是不理解新功能?亦或是,他们虽然理解了新功能,但这功能对他们来说并没有任何价值?这些问题是需要反复经过多次A/B测试才能找到答案的。但如果你愿意与少数用户去直接交流一下,往往会更快就能得到答案。
即使这次的功能改变得到了积极的A/B测试结果,你也需要去想如何迭代这个功能,让它变得更好。与用户交流就会帮助你理解痛点是什么、哪些地方仍然存在用户体验上的摩擦。
最后,定性研究还能让我们发现一些隐藏在虚荣指标背后的负面影响。比如,假设你增加了app推送通知的数量。在短期内,这很可能提高你app的活跃度指标,因为推送多了,自然会有一些用户重新回到了app。但是,不断被这些推送打扰可能会让用户非常懊恼,而这种懊恼会随着时间的推移逐渐积压,并且还在A/B测试结束了之后才浮现出来。相比之下,用户研究可能会更早就察觉出这些涌动的暗流。
2. 定性研究能为测试提供潜在的假设
你需要深入了解用户的目标和他们亟需解决的问题,才能做出对用户有价值的产品。定性的用户研究能为你提供这些目标与问题洞察的最佳工具。这种洞悉继而可以被用来生成可以在A/B测试中使用的假设。
当你第一次开始创造一个产品时,你通常只有一些直觉,大概知道痛点是什么,这主要来自你的生活经验。但你不知道其他人在多大程度上也感受到了同样的烦恼。然后你就开始做一些产品的原型,去做A/B测试。但是使用定性研究会让你更快获得答案,而且获得深刻的洞察。
如果你已经不在产品初期,而是已经到了产品市场契合度(PMF)阶段,那也不意味着你能轻易了解用户在使用你的产品去解决他们的问题的过程中的体验细节。如果你想理解用户今天是怎样或者为什么使用你的产品、你如何能够改善他们的生活,最好的办法就是去与他们交谈。
3.定性研究可以验证一些不能被A/B测试验证的功能
遗憾的是,并非所有功能都可以进行A/B测试并获得确定的结果。有时,一些功能使用得太少了,以至于为了得到足够大的样本量,你不得不永远把测试运行下去(或者该功能压根不太可能影响到整体的用户行为)。
还有一些原因是涉及到A/B测试的方法本身。A/B测试是随机分配用户到实验组和控制组的,所以理论上两组是独立的。但有一些功能其实是有交互作用的。比如,Facebook的Reactions功能,它比单单一个“点赞”有更多的情绪表情供用户挑选。这不仅影响了做出这些反应的人,也可能会影响到获得反应的发帖人。而在一个简单的“用户随机分组”的A/B测试中是无法轻松衡量出跨用户之间的交互影响的。
4.定性研究可以帮你发现新的机会
如果你想扩大产品的覆盖范围,开发新的客户群体,那就必须找出新用户的需求,证实你提供的解决方案能够满足他们的需求。但是,在他们还没使用你的产品之前,你能怎么用A/B测试?你用不了。相比之下,定性研究(不管是与潜在客户交谈,还是测试解决方案的原型)可以帮你回答这些问题。
即使是对于现有客户,你在推出新的产品功能时,也可能有意想不到的情况。用户可能在你不想让他们使用的场景下使用了这个功能,并且你也没有针对这个场景对这个功能进行过优化。数据永远不会告诉你这些。(数据只能告诉你,用户正在做什么,而不是用户为什么做这些。)当你使用定性研究时,你将能够找到这些改进产品的机会,并决定是否要更精细地解决这些问题。
5. 定性研究能帮助你更快地获得答案
即使与用户沟通有很多成本(制定日程,电子邮件往来,交谈......),但定性研究依然可以比A/B测试更快获得反馈。Google Venture(谷歌风投)的Design Sprint(设计冲刺项目)可以在5内提出问题并定性地验证解决方案。即使你拥有好的工程师和分析师团队,也不可能在一周内为任何有意义的问题设计并搭建解决方案、运行A/ B测试、取得足够的用户数量来达到统计显着性,再加上分析结果。
此外,在进行A /B测试时,你希望你的假设越具体越好,但这也意味着你要测试的对象应该有尽量小的变化。因为,如果实验组和对照组的差别对产品很多方面都同时产生影响,那在发现指标出现了意料之外的变化时,你就无法判断是哪些影响来自哪些功能/特征的改变。
相比之下,当你让用户做原型测试(Prototype Testing)时,你可以轻松地模拟复杂的体验,通过简单的观察和询问来确定原型的哪些特征导致了用户的哪些反应。因此,如果想验证复杂的用户体验,可能需要反复的A/ B测试,但通常只要进行一轮定性研究就行了。
6. 定性研究把你从过度自信的边缘拉回现实
最后,在你长时间优化、迭代某个产品,并一遍一遍地改进你的指标后,你会觉得你对你的产品已经了如指掌了。什么是有用的什么是没用的你全心知肚明。你对你的用户了如指掌,并且每天都有很多想法来改善用户的体验。
这当然是好事,但也容易适得其反。你会慢慢发展出自己的偏见,甚至可能固执己见,但现实往往比你能想到的更复杂。
所以,定期与用户聊聊天可以让你了解现状,而且保持谦虚的态度。我每次与Yammer用户通话时,我都会惊奇地发现:“哇,你竟然还能这么使用Yammer!”这些产品使用场景是我从A/B测试里永远不会发现的。
在Yammer,我们当然为能够获得详实的数据而感到自豪,而且我们也会A/ B测试每一个能够测试的功能。但是,由于上面的6条原因,我们很坚定地持续使用着定性研究,如果没有定性研究,我们不可能像今天这样离我们的用户如此之近。
如果你也认同定性研究的重要性,但还不懂怎么做定性研究,没关系,定性研究课程《厚数据在用户研究中的应用》开课啦!在Kantar凯度集团担任Associate Research Manager的Alex,用实际案例深入浅出地系统教学“厚数据”研究与分析。
她在这门课中将着重探讨:
定性研究可以回答哪些问题?
如何分析“厚数据”?
小样本的定性数据如何证明有效?
什么是好的定性数据?
为什么定性研究从业者不容易被AI代替?
中美定性研究行业比对
新课上线优惠
课程原价:245元人民币
双人团购优惠:169元人民币
团购步骤
1. 长按下图中的二维码进入课程
2. 点击底部”限时拼团“
3. 点击“我要开团”
4. 发送拼团连接给好友,邀请好友参团
*请放心开团,如果24小时内没有人与你成团的话,系统会自动退款。
课程上线时间
2月8日
还等什么,快去团购吧!
本文翻译自:https://medium.com/@jefago/why-pms-need-qualitative-research-2990b49fc46e
作者:Jens-Fabian Goetzmann
翻译:Yi, LZ
关于MarTechApe
MarTechApe是一个来自纽约、专注MarTech领域的知识分享|技能学习|求职服务的终身学习平台。我们提供最专业的Marketing Technology课程。