实验概览
本页面把视野拉远,让你一次性看清一个实验的生命周期:每个状态意味着什么、依赖哪些对象、可以做什么操作。
什么是实验
实验是通过对比不同方案科学验证产品决策的方法。在 ABC 平台上,你把用户随机分为多个组,为每组提供不同的参数值或功能版本,再通过指标对比找出最优方案。
为什么做实验
- 降低决策风险 —— 用数据验证假设,而非拍脑袋上线
- 量化影响 —— 精确衡量改动对主指标(留存、付费、活跃)的影响
- 安全发布 —— 先小流量验证,确认无负面影响后再全量
- 持续优化 —— 通过迭代找到最优参数配置
实验类型
ABC 支持三种主力实验类型,在 Experiments 页面点 Create 时下拉可选:
| 类型 | 简介 | 最佳适用场景 |
|---|---|---|
| 分层实验(Layer Experiment) | 基于层与域架构隔离流量,多个实验可在独立空间并行运行 | 大多数 A/B 场景;尤其是需要多个实验同时跑且互不污染 |
| 配置实验(Config Experiment) | 将云控配置参数绑定到实验,每个受众独享 100% 流量 | 多地域 / 多人群参数调优、参数值分级发布迁移 |
| 多臂老虎机实验(MAB Experiment) | 根据主指标动态调整各组流量,自动向表现好的方案倾斜 | 多变体快速择优、时效性强的活动、需要快速收敛 |
实验生命周期
每个实验都遵循同一套状态机:
| 状态 | 含义 |
|---|---|
| 未启动(Not Started) | 实验已创建但从未启动 |
| 进行中(In Progress) | 实验运行中并累积曝光,Results 标签可看数据 |
| 已发布(Shipped) | 已经 Make Decision → Ship,胜出变体值生效 |
| 已归档(Archived) | 已经 Make Decision → Archive,实验关闭,不可再启动 |
Make Decision 是从 In Progress 进入终态的唯一入口,提供两个动作:
- Ship —— 选择胜出变体,参数值回写到本实验覆盖的受众
- Archive —— 不发布、直接关闭实验
关键里程碑
每个实验的里程碑顺序一致:
创建实验 —— 填写基础信息、假设与指标、流量与变体
启动实验 —— 前置条件齐备时点 Start,状态切换为 In Progress
配置统计引擎 —— 在 Results 标签设置显著性水平、功效、FDR、CUPED
解读结果 —— 看 Suggestion、累计曝光、基础分析、Explore、HTE
做出决策 —— 点 Make Decision 选择 Ship 或 Archive