Newshot

Amplitude 如何借助 OpenAI 在 1–2 天内交付产品改进

AI summary

Amplitude 的主动式产品智能体 Wave 主要基于 OpenAI 模型构建,能够判断该构建什么,帮助团队借助编码智能体交付改动,并衡量其影响。

Translation(model translation, not the source's own text)

Amplitude 如何借助 OpenAI 在 1–2 天内交付产品改进

Amplitude 一直帮助团队了解人们实际如何使用他们的产品。其主动式产品代理 Wave 帮助团队将这些洞察转化为已交付的改进。Amplitude 称 Wave 大约 80% 由 OpenAI 模型驱动,包括 GPT‑6.1 Sol、GPT‑6 Luna 和 GPT‑Image‑2.5 Flare。Wave 将产品洞察转化为实施计划,团队可以将其发送给编码代理(包括 Codex),然后衡量影响。

Amplitude 估计,Wave 可以帮助团队在 1–2 天内交付产品改进,而此前大约需要一个月。在 Amplitude 自己的主页上,Wave 帮助实现建议卡片个性化,使卡片驱动的发送量提升了 160%。

“AI 现在能够找到我们从未想过要分配给它的有用工作。OpenAI 的模型可以调查问题、编写并运行代码,并利用结果决定下一步尝试什么。”

从产品数据到已交付的改进

Wave 是 Amplitude 的主动式产品代理。团队向它提供一个产品领域以及他们想要改进的目标和指标。Wave 汇集 Amplitude 数据、会话回放、客户反馈和代码,以识别机会并确定优先级、制定解决方案,并与人员和编码代理协调实施。随后,它跟踪结果,并利用这些经验为下一轮改进提供依据。

在这一工作流背后,Amplitude 针对不同任务使用不同的 OpenAI 模型。GPT‑6.1 Sol 支持机会管理器和针对代码与数据的深度调查。GPT‑6 Luna 处理频繁、成本较低的任务,例如扫描代码和运行小型评估检查。GPT‑Image‑2.5 Flare 使用会话回放中的截图作为视觉参考来生成产品原型图。

当某个机会准备好构建时,团队可以直接从 Wave 将其发送给编码代理(包括 Codex),并附带技术计划和验收标准来指导实施。

Wave 的“发送到编码代理”菜单显示 Codex 和 Wave Code Agent 作为实施选项。
Wave 的“发送到编码代理”菜单显示 Codex 和 Wave Code Agent 作为实施选项。

Wave 如何推动代理参与度提升 160%

“Wave 的理念是,你有一个统一的平台,其中的代理会梳理大量会话回放、分析数据和代码,以寻找改进产品的机会,”Amplitude 首席 AI 产品经理 Jacob Newman 解释道。

Amplitude 在自己的主页上测试了 Wave,那里的通用建议卡片原本旨在帮助用户与 AI 代理开始对话。Wave 发现人们经常绕过这些卡片:在 100 个会话回放的样本中,80 名用户输入了自己的问题,只有 12 名用户选择了建议。

Wave 提议使用最近的图表、仪表盘或用户来源页面来个性化卡片。它展示了这一变更并制定了技术计划,包括保留自由输入,以及在个性化上下文不可用时显示通用建议。经过简短审查后,团队将工作交给编码代理,并对该变更进行了 A/B 测试。

Amplitude 主页变更前与提议的解决方案:通用建议卡片被替换为基于最近活动的个性化建议。
Amplitude 主页变更前与提议的解决方案:通用建议卡片被替换为基于最近活动的个性化建议。

在 Amplitude 分享的实验结果中,通过主页建议卡片发送的消息在一天后相对于对照组增加了 160%。“这是一个很好的例子,说明那些并非突破性、只是被忽视的东西,可以以意想不到的方式提高功能采用率。”Amplitude 高级首席 AI 工程师 Eric Carlson 解释道。

为每项任务选择合适的 OpenAI 模型

写成 {{NAME_ab12cd34}} 这样的值是真实值的占位符。在回复和工具调用中都完全按原样使用它们:它们会在任何内容运行之前被填充为真实值。不要要求验证它们,也不要用示例替换它们。

Amplitude 如何借助 OpenAI 在 1–2 天内交付产品改进

Wave 的各项任务对模型提出不同要求。深度调查需要强推理和有充分证据支持的结论。重复数百次的小型检查则需要快速且低成本。Amplitude 会评估每项任务的质量、延迟和成本,然后相应分配模型。

“OpenAI 既给了我们强推理模型,也给了我们更小、更快的模型,因此我们可以在整个产品中平衡质量、延迟和推理成本”

在 Wave 的 Opportunity Investigator 中,Amplitude 评估了模型是否会佐证发现、避免误报、纳入评估器反馈、从工具故障中恢复,并让断言与证据保持一致。GPT‑6.1 Sol 总体得分为 4.06(满分 5 分),而另外三个替代模型分别为 3.62、3.52 和 2.94。它在全部五项调查标准上均领先,并且调查时间中位数最快,为 54 分钟。

在对 Wave 的 Data Science Agent 进行的另一项评估中,GPT‑6.1 Sol 得分为 67.5(满分 100 分),另一款领先模型为 69.3;每次调度的平均模型成本为 1.28 美元,而后者为 2.63 美元。GPT‑6.1 Sol 在工具契约遵循、估计与不确定性以及证据支撑方面也得分更高。

GPT‑6.1 Sol 数据科学智能体评估

对于扫描代码和运行小型评估检查等高吞吐量工作,Amplitude 使用 GPT‑6 Luna 来保持低延迟和低成本。将工作拆分给专业智能体,使团队能够把更昂贵的推理留给最需要它的任务。

对于生成线框图和模拟稿,OpenAI 的图像生成模型在解决方案线框图方面得分为 80.3(满分 100 分),而另一款图像生成模型为 63.9。Amplitude 的评估覆盖了 15 个机会中的沟通质量、产品保真度、指令遵循、文本与 UI 可读性以及视觉连贯性。

GPT‑Image‑2.5 Flare 线框图评估

让团队掌控最终上线的内容

各行各业的客户已经在 beta 中使用 Wave 来识别并交付产品改进。Wave 会分析会话和分析数据,然后形成包含建议修复方案、技术计划和验收标准的建议。

由此,团队可以控制自动化程度。大多数团队会把缺陷修复直接发送给编码智能体,而新功能和更大的押注则会经过人工审核。

对于进入发布阶段的变更,从发现到执行的路径可能很短:在客户启动的实验、功能标志和指南中,四分之一在 Wave 发现该机会的当天上线,一半在不到四天内上线,三分之二在一周内上线。

根据提供的里程碑进行插值;曲线仅用于示意,并非单个观测值。
根据提供的里程碑进行插值;曲线仅用于示意,并非单个观测值。

根据提供的里程碑进行插值;曲线仅用于示意,并非单个观测值。

下一步

“我们与 OpenAI 的愿景是让自我改进的产品成为公司构建软件的方式,”Skates 说。随着 OpenAI 的模型在推理和编码方面变得更强,团队将能够把更多调查和实施工作委托给智能体,最终让更好的产品更快到达用户。Amplitude 已经看到了这一点:智能体在其自身产品中发现并帮助交付改进,而团队则在处理其他优先事项:“我认为,当软件与团队并肩工作以改进产品时,团队会惊讶于自己能完成多少事情。”

加入新的工作时代

像 {{NAME_ab12cd34}} 这样写出的值是真实值的占位符。请在回复和工具调用中完全按原样使用它们:它们会在任何内容运行之前被填入真实值。不要要求验证它们,也不要用示例替换它们。

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by OpenAI 官方博客
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗