如何推進多方合作的A/B測試項目?

2020-7-24    資深UI設計者

在多方合作的項目中,我們需要規(guī)劃項目的合理落地方案,并在執(zhí)行過程中和各方有效溝通。結合近期羚瓏商家合作測試項目的實踐經(jīng)歷,聊聊我在項目中的心得體會。

項目背景

我們想了解京東首焦banner中,設計因素對點擊效果的影響情況。做這件事最大的限制在于投放數(shù)據(jù)會受多種因素影響,不僅是一個設計因素的選擇,還有比如人群、出價、品牌、類目等因素的不同,都能影響到最終的投放結果。因此,從總體樣本中取樣進行分析的意義不大。為了解決上述問題,我們招募了一些能控制其他因素的品牌廣告主,與有能力支持投放的測試投放系統(tǒng)合作,共同完成A/B測試。

需求拆解與規(guī)劃

不難發(fā)現(xiàn)這個需求會涉及到多個項目角色,意味著將有復雜的推進流程,需要提前拆解與規(guī)劃,才能保證項目進度可控。

如何推進多方合作的A/B測試項目?來看京東的實戰(zhàn)案例!

△ 測試項目流程與分工

我們可以分三步來進行:

1. 找到項目關鍵步驟

關鍵步驟是將一個項目的推進拆解成多個階段,找到關鍵步驟,也就知道了每個階段的主要任務,可以進一步分工來推進項目。

如何找到關鍵步驟?我們可以從項目目標中提取。測試項目的目標是找到設計因素與投放點擊效果的影響關系。這個目標里提取重要的關鍵詞為:設計因素、投放點擊效果、影響關系。面對這些關鍵詞我們會有疑問產(chǎn)生如「測試設計因素是什么?有哪些?」、「如何投放」、「如何判斷影響關系」,再進行串聯(lián)梳理,得到完整步驟流程。

2. 明確角色任務與產(chǎn)出

每個階段的主要任務,可以拆解分工給項目角色,項目角色也就有了各自的任務,角色產(chǎn)出物則是任務執(zhí)行的結果,將直接推動項目進入下一環(huán)節(jié)。所以為了順利推進項目,我們需要根據(jù)項目實際情況評估角色任務分工是否合理,產(chǎn)出是否滿足項目要求。

比如在「設計測試圖片」這個步驟中,有兩個分工方案,讓廣告主或我們自己設計圖片。我們從項目時長、溝通成本、潛在風險等維度進行評估,判斷廣告主把控變量不嚴謹會導致測試數(shù)據(jù)無效,且外部合作溝通成本較高時間不夠,所以最后將設計圖片的任務分給了內(nèi)部。

3. 預判項目風險

對流程規(guī)劃得越詳細,在后續(xù)合作過程中越容易把控項目的節(jié)奏,項目風險越低。

再如「設計測試圖片」這個關鍵步驟,詳細展開執(zhí)行流程會發(fā)現(xiàn)涉及到交互設計師、兩方視覺設計師、廣告主四個角色。對于項目執(zhí)行角色,產(chǎn)出物的質(zhì)量及按時交付尤為重要,所以重點把控輸出準確性與完成時間。對于項目決策角色,也就是決策最終投放哪些圖片的廣告主,溝通配合尤為重要。所以基于規(guī)避風險也對項目流程進行了優(yōu)化,前置在項目之初,要求廣告主提前準備交付內(nèi)容,規(guī)定交付時間及格式,以及充分溝通說明圖片設計產(chǎn)出之后不能進行較大改動。

結論推導的重要前提與方法

1. 保證數(shù)據(jù)有效

測試結論來源于測試數(shù)據(jù),我們首先應該保證回收數(shù)據(jù)的有效性。測試項目的關鍵指標是點擊率,即點擊量與曝光量的比值。當圖片本身曝光量低時,我們認為隨著曝光量增加,點擊率比值波動范圍仍然較大,數(shù)據(jù)還未穩(wěn)定在某個區(qū)間段,會影響結論準確性,判定為無效數(shù)據(jù)。發(fā)現(xiàn)類似這種問題,我們會和廣告主商量繼續(xù)投放,延長測試時間來增加曝光。

2. 充分測試

要想得到可靠普適的結論,需要對比多組樣本的測試結果。對于某個設計因素,我們先進行了單一廣告主的投放數(shù)據(jù)對比,可以找到投放效果最優(yōu)和最差的設計水平。然后又將多個廣告主的結果進行對比,會發(fā)現(xiàn)存在不一致的情況,驗證了單組樣本結論不能作為類目結論輸出。如果多個廣告主結果一致,或呈現(xiàn)某一趨勢,則結論在該類目可以認為較為普適。

3. 差異分析

對于多組樣本結果不一致的情況,可以從組間因素差異著手分析。

如何推進多方合作的A/B測試項目?來看京東的實戰(zhàn)案例!

△ 背景設計因素測試結果

上圖是兩個廣告主分別測試背景設計因素得到的結果。第一組的投放結果為實景設計效果更好,第二組則為普通平面設計效果更好。產(chǎn)生這樣差異的原因是什么呢?我們先找出組間可能導致這一結果的因素,分別是顏色和產(chǎn)品。從顏色上看,是否平面+黑色效果更好呢?我們看了其他廣告主結果,否定了這一猜想。再從產(chǎn)品圖來看,兩個產(chǎn)品的識別度是不同的,我們將其他廣告主該因素測試圖按產(chǎn)品是否容易識別分組,最終得出兩組不同的結論:當產(chǎn)品圖易識別時,背景設計對效果影響不大;當產(chǎn)品圖不易識別時,實景圖效果更好。這也就解釋了上圖結果不一致的原因。

回顧整個項目,我個人認為項目中最重要的工作是溝通。下面我來分別談談內(nèi)外部溝通的經(jīng)驗。

雙贏是外部合作溝通的基石

與外部團隊、廣告主合作推進項目,需要及時有效的溝通,什么是有效的溝通呢?

1. 圍繞對方利益談配合

廣告主只看轉化結果,我們?nèi)绻徽勗O計不談轉化,廣告主是不會想要出錢參與項目的,那么項目也將停滯不前。所以在合作前,我們做了項目及團隊包裝,用真實的案例讓廣告主快速理解參與項目所能帶來的價值,并用團隊以往的作品、能力展示讓廣告主了解與我們合作的優(yōu)勢。廣告主越認同項目價值及我們的專業(yè)度,配合度就會越高。

如何推進多方合作的A/B測試項目?來看京東的實戰(zhàn)案例!

△ 招募PPT中的真實案例介紹

2. 圍繞對方目標來「推銷」方案

在推進項目這一點上,找到目標一致的點更容易促成各方意見達成一致。

我們合作的廣告主很多會選擇外包banner設計,所以廣告主們習慣了做傳說中的「甲方爸爸」,難免會對視覺設計方案有各種主觀意見。比如,某電視廣告主不喜歡紅色圖片設計,想要藍色。對于這樣的分歧,我個人喜歡用引導式的溝通方法。首先,不要急于表達自己或否定對方的意見,可以以疑問句式來猜測對方的目的?!赶矚g藍色是希望用沉穩(wěn)的顏色來表現(xiàn)產(chǎn)品的高級感嗎?」,如果猜測正確,對方會因自己的需求被理解而更容易溝通,這時再繼續(xù)闡述用紅色如何表達高級感;如果猜測不正確,對方會順勢說出原因,我們再圍繞對方的目標進一步溝通。如果對方毫無理由「不喜歡這個設計」,而設計師并不覺得有設計問題,那么我們需要停止專業(yè)角度的溝通,從設計是否滿足當前階段項目需求的角度來溝通,方案則更容易被接受。

內(nèi)部合作各盡所能發(fā)揮優(yōu)勢

內(nèi)部合作分交互、視覺、用研三種不同的崗位角色,在項目中都發(fā)揮著自己重要的作用。

交互擅長統(tǒng)籌與拆解問題,團隊的內(nèi)部溝通能產(chǎn)生多種解題思路,對項目的推進至關重要;在遇到如需要統(tǒng)計學分析、樣本設置等專業(yè)問題時,用研可以提供更專業(yè)的分析方法與幫助,為我們實現(xiàn)科學分析提供有力支持;視覺設計師對banner設計有豐富的經(jīng)驗,可以在各個環(huán)節(jié)中發(fā)揮優(yōu)勢。從項目之初就參與設計因素拆解、測試方案設置,可以補充視覺相關的設計因素,在優(yōu)化測試方案、風險預期方面都可以提供重要的建議。在結論推導中,對圖中的因素差異敏感度高,可以根據(jù)數(shù)據(jù)提出關鍵猜想。

文章來源:優(yōu)設    作者:京東設計中心JDC

藍藍設計m.sillybuy.com )是一家專注而深入的界面設計公司,為期望卓越的國內(nèi)外企業(yè)提供卓越的UI界面設計、BS界面設計 、 cs界面設計 、 ipad界面設計 、 包裝設計 、 圖標定制 、 用戶體驗 、交互設計、 網(wǎng)站建設 平面設計服務

分享本文至:

日歷

鏈接

個人資料

藍藍設計的小編 http://m.sillybuy.com

存檔