Newshot

借助 AI Gateway,编程智能体批量任务执行速度提升 8 倍、成本降低 20 倍

Translation(model translation, not the source's own text)

文章标题:借助 AI Gateway,编码代理执行批量任务的速度提升至 8 倍,成本降低至二十分之一

正文: 让一个 AI 代理阅读 300 通销售电话,它的工作方式就像一个极有耐心的人:一次打开一通。它读到的所有内容都留在记忆中,因此每推进一步都比上一步更慢、更贵。读到第 200 通时,它要先重读一个小型资料库,才能记下下一条笔记。

今天我们推出 Ploy AI Gateway,让 Ploy 可以直接调用 AI 模型,完成批量任务的速度最高可达 Claude Code 和 Codex 的 8 倍,成本仅为后者的二十分之一。Ploy 还能在你的 Ploy Site 上构建由 AI 驱动的小型应用,无需 API 密钥。

并行运行的 AI 工作流

工作流示意图:一个语言模型为每篇博客文章撰写图片简报,一个图像模型以参考图的风格将其渲染出来
工作流示意图:一个语言模型为每篇博客文章撰写图片简报,一个图像模型以参考图的风格将其渲染出来

Ploy 为每个条目(一段会议录音、一篇博客文章、一张图片)分配各自的 AI 工作流,并行运行,一次最多可运行数百个,然后汇总结果。

如果你在 n8n 或 Zapier 中搭建过 AI 工作流,这看起来会很熟悉,只是不需要自己搭建。Ploy 根据一条提示词构建同类工作流,为每个步骤挑选模型,并使用你的 Ploy 额度运行。

你的网站也能用上 AI

你已发布的站点可以通过 Ploy AI Gateway 调用同样的模型。访客获得实时的 AI 功能,而你用同样的 Ploy 额度为其付费。

涂漆预览:一间客厅在刷上绿色涂料装饰墙前后的对比
涂漆预览:一间客厅在刷上绿色涂料装饰墙前后的对比

这些应用的运行成本非常低:一个读取你站点内容的聊天机器人回答 1,000 个问题花费不到 $1,一个决策模型将 14,000 名访客分流到正确页面花费 $1。你可以在 Usage 页面为你的站点设置支出上限,这样再繁忙的一天也不会让你措手不及。

实测数据:4.5 分钟处理 300+ 通销售电话

我们给 Ploy、Claude Code 和 Codex 布置了同一项任务:阅读 300+ 通我们录制的销售电话,按潜客最喜爱的用例排序,并附上通话次数和逐字引述。

Ploy 在 4.5 分钟内完成,花费 $2.87。其他几次运行耗时 17 到 39 分钟,花费 $19 到 $65,即使使用了子代理也是如此。

分析 300+ 通销售电话的时间与成本图表:Ploy 4.5 分钟、$2.87,Claude Code 17 分钟、$65,Codex 39 分钟、$19.40
分析 300+ 通销售电话的时间与成本图表:Ploy 4.5 分钟、$2.87,Claude Code 17 分钟、$65,Codex 39 分钟、$19.40
PloyClaude CodeCodex
时间4.5 分钟17 分钟39 分钟
总成本$2.87$65(估算)$19.40(估算)
完整阅读每一通电话是是是
逐字找到的引述18 / 1823 / 2548 / 48

也就是说,速度最高提升至 8 倍,成本降低至二十分之一。每次运行对前 3 个用例的判断都一致:SEO 与 AI 搜索、基于账户的页面,以及网站构建与迁移。

当 AI 代理执行工作时,它们在每一个步骤都会重读自己的指令、整段对话,以及已经读过的每一通电话。而一个 AI 工作流只读一通电话和几行指令。Ploy 的 362 个 AI 工作流运行在更小、更快的模型上,整批任务约 33 秒完成。

Ploy AI Gateway 的实际使用情况

时间衡量的是从初始提示词到最终结果验证完成之间的延迟,成本包含 Ploy 自身的工作,而不仅是模型调用。

任务规模时间总成本
翻译整个站点每个页面译成 35 种语言6 分钟$1.51
修复缺失的替代文本整理 1,271 张图片,为 360 张添加描述12 分钟$3.60
更新培训视频20 个视频,177 行重新配音9 分钟$2.21
制作课程音频13 节课共 573 个片段,每个片段都经过检查25 分钟$5.71
筛选研究论文为 693 篇摘要排序,精读前 40 篇2 分钟$0.73
为网站访客评分为 240 名访客评分,127 名合格,85 名经过调研,12 份外联草稿13 分钟$6.21

这些并不只是一次性任务:

文章标题:借助 AI Gateway,编程智能体执行批量任务的速度提升 8 倍,成本降低 20 倍

正文:

  • 它们会检查自己的工作。一个训练视频任务会把每条新录制的配音转录下来,并与脚本进行比对。
  • 它们知道该跳过什么。一个 alt-text(替代文本)任务写入了 360 条描述,并对 892 张图片不予处理,因为附近的文字已经对它们做了解释。
  • 它们明天会再次运行。一个访客评分工作流被保存为 Ploybook,每天早上为新访客评分。

AI Gateway 构建模块

Ploy 可以访问一系列 AI 模型。只需一个提示词,它就能把这些模型组合成一个工作流,或将它们添加到你的网站中。

模块适用场景大致成本
语言模型摘要、草稿、改写、翻译、从杂乱文本中提取事实每项 0.01 到 0.4 美分
决策模型是/否判断、打标签、路由和评分,始终从你给定的选项中选择每次调用约 0.005 美分
图像生成广告变体、博客头图、产品场景、照片编辑每张图片 3 到 8 美分
语音和音乐配音、朗读页面、广告配乐每条配音 0.2 美分,每 30 秒音轨 4 美分
语音转文字通话笔记和字幕,带词级时间戳和说话人标签每分钟约 0.4 美分
嵌入和重排序按语义搜索、查找相似项、分组每 1,000 页嵌入约 2 美分,每次重排序搜索 0.2 美分
网络搜索获取最新事实,以及 Ploy 没有链接的页面每次搜索约 0.7 美分
视频根据提示词或图片生成短片4 秒短片约 30 美分

在这里查看它们的实际运行:

3 步 AI 工作流

为任意企业撰写个性化的 Ploy 推介。

  • FetchCode,无 AILoads 主页,保留访客可阅读的文本。GetsWebsite→MakesPage text

获取

加载主页,保留访客可阅读的文本。

  • RankDecision model在一次调用中,为 Ploy 的 12 条增长建议分别打分,评估每条建议与该企业的匹配程度。GetsPage textPloy's 12 recs→MakesTop 3 recs

排序

在一次调用中,为 Ploy 的 12 条增长建议分别打分,评估每条建议与该企业的匹配程度。

  • PitchLanguage model撰写一段简短、随意的推介,每条首选建议对应一个要点。GetsPage textTop 3 recs→MakesPitch

推介

撰写一段简短、随意的推介,每条首选建议对应一个要点。

在你的编程智能体中使用 AI Gateway

下载 Ploy 遵循的 skill,把它添加到任意编程智能体中,只需提供一个 Vercel AI Gateway 密钥。这个 skill 涵盖为每项任务挑选模型、并行运行各项任务、检查结果以及关注成本。

下载 AI Gateway skill

今天就能尝试的 4 件事

把以下任意一条粘贴到 Ploy 中:

  • “总结上一季度的每一次销售通话,并列出潜在客户最喜欢的用例,附带原话引用”
  • “为我们排名前 20 的产品各制作一张广告图片,风格参照我们最好的广告”
  • “把我们的博客翻译成西班牙语、法语和德语”
  • “找出我们网站上所有没有 alt text 的图片,只在需要的地方补写”

Ploy 会先测试一个小样本,然后并行运行其余部分。在开始大型任务之前,它会告诉你预估成本,并等待你的批准。

运行你的第一个 AI 工作流

向 Ploy 提出你想要的结果。它会构建 AI 工作流、挑选模型,并并行运行它们。

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by HN AI
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗