很好,我们现在已经从:
测试用例
↓
AI Evals
进入到了真正 AI 产品团队的核心能力:
AI Quality Engineering(AI质量工程体系)
对于飞流AI而言,我认为完整的测试架构应该是:
飞流AI质量体系
┌────────────┐
│ 业务目标层 │
└─────┬──────┘
│
┌───────────────┼────────────────┐
│ │ │
用户价值层 AI能力层 工程稳定层
│ │ │
└───────────────┼────────────────┘
│
数据资产与反馈层
这四层实际上构成了未来 AI 产品测试经理的全部工作。
第一层:工程稳定层(传统测试)
目标:
系统稳定运行。
这是所有 AI 能力的地基。
1.客户端质量
小程序
- 登录
- 微信授权
- 上传图片
- 分享
- 收藏
- 支付
性能指标
| 指标 | 目标 |
|---|---|
| 首页加载 | <2秒 |
| 首次生成请求 | <1秒 |
| AI结果返回 | <20秒 |
| 崩溃率 | <0.1% |
2.API质量
核心接口:
生成方案接口
户型识别接口
图片生成接口
预算估算接口
方案保存接口
监控:
- 成功率
- QPS
- RT
- 超时率
建议:
接口成功率 >=99.9%
3.AI基础设施
例如:
OpenAI
Claude
Gemini
Flux
SDXL
Qwen
关注:
- 模型超时
- 限流
- Token耗尽
- 服务降级
例如:
主模型失败
↓
自动切换备用模型
第二层:AI能力层
这是飞流AI最大的测试投入区域。
建议拆分为六大能力中心。
1 户型理解中心
输入:
户型图
毛坯图
精装图
CAD图
输出:
面积
房间数量
门窗位置
承重墙
梁柱
动线
指标:
| 指标 | 目标 |
|---|---|
| 房间识别率 | >98% |
| 门窗识别率 | >95% |
| 面积误差 | <3% |
2 用户需求理解中心
识别:
预算
风格
家庭结构
收纳需求
老人需求
宠物需求
指标:
| 指标 | 目标 |
|---|---|
| Intent Recall | >95% |
| Intent Precision | >98% |
3 空间规划中心
能力:
功能区划分
家具布局
收纳布局
动线规划
评测:
| 指标 | 目标 |
|---|---|
| 动线合理率 | >90% |
| 收纳满足率 | >90% |
| 家具冲突率 | <2% |
4 风格生成中心
例如:
现代极简
奶油风
中古风
法式风
侘寂风
指标:
| 指标 | 目标 |
|---|---|
| 风格一致率 | >92% |
| 用户满意度 | >4.5 |
5 预算评估中心
指标:
| 指标 | 目标 |
|---|---|
| 预算误差 | <15% |
| 材料匹配率 | >90% |
6 安全合规中心
重点检测:
- 拆承重墙
- 燃气风险
- 电路风险
- 防水风险
目标:
风险漏检率 <1%
第三层:用户价值层
很多 AI 产品做到这里就结束了。
但真正优秀的 AI 产品团队会继续问:
用户真的因此获得价值了吗?
用户行为漏斗
进入首页
↓
发起设计
↓
等待结果
↓
查看方案
↓
收藏方案
↓
分享方案
↓
咨询设计师
↓
成交
关键指标
AI启动率
发起AI用户
/
进入首页用户
目标:
>40%
方案完成率
生成成功用户
/
发起生成用户
目标:
>95%
收藏率
目标:
>30%
分享率
目标:
>20%
转设计率
咨询设计服务
/
生成用户
成交率
装修成交
/
生成用户
第四层:业务目标层
这是 CEO 最关心的部分。
获客效率
CAC
获客成本。
AI成本
Token成本
+
图片生成成本
+
GPU成本
单用户成本
例如:
平均每个用户消耗:
3元
用户生命周期价值
LTV
例如:
设计服务
装修服务
家居商品
ROI
用户贡献价值
/
AI成本
第五层:数据资产层(真正的护城河)
这一层往往被忽略。
实际上:
AI公司的核心资产不是模型,而是数据飞轮。
数据闭环
用户输入
↓
AI输出
↓
用户行为
↓
用户反馈
↓
人工标注
↓
模型优化
↓
新模型上线
↓
再次收集数据
建议沉淀六大数据集
1 户型数据集
10万户型
2 用户需求数据集
预算
风格
家庭结构
3 设计方案数据集
设计图
布局图
施工图
4 用户反馈数据集
喜欢
不喜欢
修改建议
5 风险案例数据集
承重墙
燃气
防水
6 多轮对话数据集
这是未来最大的价值。
最后给你一张我认为比较理想的飞流AI测试组织架构
AI测试经理
│
├── 功能测试负责人
│
├── AI评测负责人
│
├── 数据标注负责人
│
├── 自动化测试负责人
│
├── AI质量平台负责人
│
└── 用户体验分析负责人
如果飞流AI未来用户规模达到百万级,我甚至会进一步建设:
AI Quality Lab
里面包含:
- 自动Evals平台
- Prompt回归平台
- A/B实验平台
- 模型路由评测平台
- 用户行为分析平台
- AI风险控制平台
这基本就是未来垂直 AI 产品公司的质量体系形态。
对于你个人而言,如果你能够主导建设这样一套体系,你的角色已经不再是传统意义上的测试经理,而是在向:
AI Quality Lead(AI质量负责人)
甚至:
Head of AI Product Quality
这样的方向演进。