A/Bテスト統計的有意性計算機
ガイド
A/Bテスト統計的有意性計算機
訪問者とコンバージョン数をコントロール(A)と変異(B)にそれぞれ入力し、その差が本物の効果か、あるいは偶然のノイズかをすぐに確認できます。この計算機は2プロポーションz検定を実行し、p値、絶対および相対のリフト、そして差の信頼区間を計算した後、その数字を明確な結論に変換します:勝者、差なし、またはテストを続けるべきです。
同じプール分散z検定を使用しており、Optimizely、VWO、Convertなどのツールの背後にある検定計算機と同じアルゴリズムを使っています。すべての計算はブラウザ内で実行されるため、実験データはページから離れては出ません。
使用方法
- 訪問者が変化した経験を確認した総数を入力してください。 コントロール(A) その中で変換した人数を入力してください。
- 訪問者が変化した経験を確認した総数を入力してください。 変異(B) その中で変換した人数を入力してください。
- 信頼水準(90%、95%、または99%)を選択し、片側検定または両側検定を選択してください。
- 結果パネルの上部で結論を確認し、p値、zスコア、リフト、および信頼区間の詳細をチェックしてください。
- 入力の下部にある例のプリセットのいずれかをクリックして、明確な勝者、境界値の結果、および低トラフィックテストがどのように見えるかを確認してください。
機能
- 2プロポーションz検定 — プール分散検定で、コンバージョン率を比較する標準手法です。
- 正確なp値 — 標準正規分布関数(CDF)を使用して高精度のerf近似で計算されます。
- 片側または両側 — BがAを上回る場合のみに注目するか、または差の有無に関わらず注目するかで選択します。
- 信頼区間 — 絶対差(パーセントポイント)と相対リフト(パーセント)の両方についての信頼区間を提供します。
- スマートな結論 — 資料が不足していること、実際の差がないこと、またはサンプル数を増やして確認すべき差があることの3つの状況を区別します。
- 視覚的分解 — コンバージョン率のバーとトラフィックの割合の概要を表示し、不均衡な割当をすぐに確認できます。
- 100%クライアントサイド — あなたの実験データはブラウザに留まり、アップロードされません。
よくある質問
-
A/Bテストにおける統計的有意性とは何ですか?
統計的有意性とは、2つの変異間の観察された差が実際に効果によって引き起こされたものである確率です。一般的な閾値はp値が0.05未満であり、その場合、観察された差が実際には同じであった場合に現れる可能性は5%未満です。
-
p値とは実際に何を意味しますか?
p値は、2つの変異が実際に同じであった場合に観察された差(またはそれ以上の大きさ)が現れる確率です。小さなp値(たとえば0.01)は、その結果が帰無仮説の下で非常に起こりにくいことを意味し、変異が異なることの証拠になります。p値はBがAより優れている確率ではありません。
-
片側検定と両側検定のどちらを使うべきですか?
AとBの間に差があるかどうかを検出したい場合(Bが悪化する場合も含む)は両側検定を使用します。BがAより優れているという方向性の仮説が実験前に決まっている場合、その方向に反対の結果が得られた場合でも行動しないなら、片側検定を使用します。ほとんどの製品実験では、両側検定がより安全なデフォルトです。
-
絶対リフトと相対リフトの違いとは?
絶対リフトは、コンバージョン率の差をパーセントポイントで表したものです(たとえば、5%から6%に増加するのは+1パーセントポイントの絶対リフト)。相対リフトはその変化を元の率に対するパーセントで表します(5%から6%に増加するのは+20%の相対リフト)。マーケターが通常引用するのは相対リフトですが、絶対リフトは与えられたトラフィック量におけるドル影響を決めるものです。
恵 スコアボードが到着しました!
スコアボード ゲームを追跡する楽しい方法です。すべてのデータはブラウザに保存されます。さらに多くの機能がまもなく登場します!
