BotPsy：用亚十亿参数智能体语言模型实现端侧个性化 Assistant

文章标题：BotPsy：基于亚十亿参数智能体语言模型的设备端个人 Assistant

正文： 前沿云端 LLM 承载着高昂的运营成本，且这些成本可能意外波动；依赖此类第三方模型还会引入脆弱性，因为提供商可以随时修改、拒绝或弃用访问权限。此外，专有模型针对特定工作流的定制能力有限，同时带来隐私、数据控制与透明度方面的风险。再者，并非每项任务都需要前沿级智能：小型专用智能体在特定任务上同样能干，且运行成本显著更低，因为许多例行或较小的工作负载可以在设备端高效处理。随着每参数智能持续快速提升，我们力求站在这一向高性能、以隐私为重点的自托管模型转变的前沿。

Tether AI Research 推出 BotPsy，一个 0.8B 参数模型 introduce BotPsy, a 0.8B-parameter model，专为函数调用与智能体工作流设计，构建于 Qwen3.5-0.8B 之上，适合设备端部署。BotPsy 是一个“个人助理”，使用工具为用户执行各种简单任务，涵盖网络搜索与研究、旅行与生活、商业与金融、业务与客户运营、设备与车辆控制、文件与文档、日历以及电子邮件与消息等领域。由于其参数量小，它最适合中低难度的任务。BotPsy 在其规模上实现了最先进（SOTA）的工具使用与智能体性能，超越了我们测试过的所有不超过 1.2B 参数的模型（图 1 和图 2）。它为安全的设备端工作流而设计，在保持用户数据私密的同时，提供卓越的指令遵循可靠性与效率。作为一个小模型，BotPsy 仍会犯错，不适用于高风险用途；请阅读预期用途与局限性以了解更多信息。

🤗 模型（safetensors）| 📦 GGUF（bf16、Q8、Q4）

版权投诉

我们将对版权侵权通知采取适当行动。如果您认为您的作品被以侵犯您知识产权的方式使用或复制，请发送电子邮件至 [email protected]，指明并描述受版权保护的作品与涉嫌侵权的内容，以提交侵权通知。

关键亮点

基准结果

• 基础模型性能的两倍：BotPsy 在关键基准上将 Qwen3.5-0.8B-Think 的智能体能力大致翻倍：BFCL v4 从 23.4 升至 44.0，ACEBench 从 30.1 升至 58.7，τ-bench 从 23.2 升至 51.5（零售、电信与银行子集的平均值）。

• 同类最佳智能体：BotPsy 在全部六项工具使用与智能体基准上超越 ≤1.2B 参数重量级的领先模型（Qwen3.5-0.8B-Think、LFM2.5-1.2B-Think、MiniCPM5-1B-Think）：BFCL v4、ACEBench、τ-bench、ToolSandbox、Claw-Eval 与 BrowseComp-Plus。

• 超越更大的同门模型：BotPsy 在六项基准中的五项上取得所有测试模型的最高分，在 BFCL v4（44.0 对 37.7）、ACEBench（58.7 对 55.4）、τ-bench（51.5 对 46.5）、ToolSandbox（64.6 对 41.2）与 BrowseComp-Plus（4.5 对 2.8）上击败了规模为其 2.5 倍的 Qwen3.5-2B-Think。仅在 Claw-Eval 上 Qwen3.5-2B-Think 领先（48.9 对 46.5）。

模型能力

写作 {{NAME_ab12cd34}} 形式的值是真实值的占位符。请在回复和工具调用中完全按原样使用它们：它们会在任何内容运行前被填入真实值。不要要求验证它们，也不要用示例替换它们。

BotPsy：搭载亚十亿参数智能体语言模型的端侧个人 Assistant

• 在多轮工作流中更可靠：在 τ²-bench 上，智能体必须进行长时间的客户对话、遵循严格策略并代表客户行事，它在电信领域得分 82.5，领先 Qwen3.5-2B-Think（69.3）。在 BFCL v4 的多轮任务上，它相较基座模型从 7.5 提升至 46.1，几乎是 Qwen3.5-2B-Think（23.8）的两倍。按应用分组，其多步得分在所有测试模型中领先：商务与服务领域（58.3 对次优 Qwen3.5-2B-Think 的 47.4）以及设备与系统管理领域（46.1 对 31.9）。

• 知道何时（不）调用工具：会行动的智能体也必须知道何时不行动。在 BFCL v4 的幻觉测试中，该测试检查模型在不存在合适工具时是否会拒绝，BotPsy 得分 86.1，为所有测试模型最高。在 ACEBench 的特殊案例中，请求不完整、包含错误参数或无法由给定工具处理，它得分 51.3，较其基座模型的 13.7 提升。

• 在保留知识的同时遵循指令：BotPsy 专注于工具使用，同时保留通用技能。指令遵循能力大幅提升，IFEval 从 59.7 升至 90.8，IFBench 从 22.0 升至 55.9，为所有测试模型中 IFBench 最高分。通用知识也有所提升，GPQA Diamond 从 33.2 升至 38.1，MMLU-Pro 从 41.6 升至 48.9。在这四项基准上，BotPsy 优于我们测试的所有 1.2B 参数或更少的其他模型。

安全性、效率与部署

• 比同类领先模型更安全：在覆盖六类危害的自动化红队测试中，BotPsy 有 21% 的时间产生不安全响应，而其基座模型为 36%。这是

方法

BotPsy 基于 Qwen3.5-0.8B，并按四个连续阶段进行后训练：监督微调（SFT）、多教师同策略蒸馏（MOPD），以及两轮强化学习（RL）。每个阶段都以上一阶段的最佳检查点作为起点，并受益于不同的学习信号：对参考轨迹的模仿、规模大得多的教师模型的词元分布，以及基于规则的工具调用奖励（见图 3）。

训练流程：四个阶段，三类反馈

我们的方法采用四个训练阶段，从三类信号中学习：演示、专家教师和可验证奖励。

从演示中学习（SFT）

我们首先在工具使用对话上进行全参数监督微调。这些对话包括来自模拟环境的多轮智能体轨迹、重放的单次、并行和多步调用，以及不应调用工具的情况。

从教师中学习（MOPD）

接下来，学生模型通过同策略蒸馏（OPD）训练：它生成自己的回答，由专家教师对每个词元提供反馈，并以逐词元反向 KL 散度作为训练信号。为了构建这些教师，我们首先用强化学习训练了三个 Qwen3.5-4B 模型，分别专精于工具使用、通用推理和指令遵循。训练期间，每个提示词都被路由到其中一个教师。这一阶段主要旨在恢复在 SFT 阶段退化的知识和指令遵循能力，不过工具使用指标也有所提升（见图 4）。

从规则和环境中学习（RL 阶段）

最后，模型使用 DAPO [1] 进行强化学习训练，仅从规则和验证器计算出的奖励中学习。第一轮聚焦于工具调用，并辅以指令遵循和 STEM 选择题。与 Tool-N1 [2] 一样，工具调用奖励首先检查推理和工具调用格式。不过，它不像 Tool-N1 那样给出二元正确性奖励，而是本着 ToolRL [3] 的精神给出细粒度的部分得分，将预测的工具名、参数名和参数值与真实值进行匹配。

第二轮将训练混合扩大到通用领域的可验证任务：数学、代码、知识（选择题）问题、指令遵循、结构化输出，以及模拟工作环境中的多步工具使用。尽管这一混合数据不包含多轮对话，它仍进一步提升了多轮函数调用能力。

数据构成

每个训练阶段使用不同的数据混合（图 5

BotPsy：基于亚十亿参数智能体语言模型的端侧个人 Assistant

BotPsy 的工具使用性能约为其 Qwen3.5-0.8B 基座的两倍，并且在六个智能体基准中的五个上都是五个模型里最强的：BFCL v4（44.0 对 23.4）、ACEBench（58.7 对 30.1）、τ-bench（51.5 对 23.2）、BrowseComp-Plus（4.5 对 1.9）和 ToolSandbox（64.6 对 30.5）。在这五项上，它也领先于 Qwen3.5-2B-Think——一个规模为其 2.5 倍的模型（对应分数为 37.7、55.4、46.5、2.8 和 41.2；见表 1）。在 Claw-Eval 上，Qwen3.5-2B-Think 领先（48.9 对 46.5）。

表 1：工具使用与智能体基准（0–100，越高越好）。每行最高分加粗，次高分加下划线；倍数给出相对于 BotPsy-0.8B 的参数量。平均值为六个基准的未加权均值。评估环境详情见评估脚注。

知识

工具使用训练没有损害通用知识：GPQA Diamond 从 33.2 升至 38.1，MMLU-Pro 从 41.6 升至 48.9，在 1.2B 参数及以下的模型中是最好的（LFM2.5-1.2B-Think：35.0 和 39.4；MiniCPM5-1B-Think：15.8 和 40.0）。知识仍然主要随参数量扩展，Qwen3.5-2B-Think 的得分远高于此（59.9 和 65.5）。因此，BotPsy 的设计目标是调用工具来获取它不知道的事实，而不是充当知识模型。

表 2：通用知识基准（0–100，越高越好）。每行最高分加粗，次高分加下划线。评估环境详情见评估脚注。

指令遵循

BotPsy 是五个模型中遵循显式指令最好的：IFEval 90.8（基座 59.7；Qwen3.5-2B-Think 80.0），IFBench 55.9（基座 22.0；Qwen3.5-2B-Think 40.9）。在测试八种语言、三轮指令遵循的 Multi-IF 上，它得分为 67.2，与 Qwen3.5-2B-Think（66.9）和 LFM2.5-1.2B-Think（68.2）相当。它开局最强（第 1 轮 84.3，为五者中最高），但随着指令累积下降更快（第 3 轮 51.0，而那两个模型分别为 56.5 和 56.2）。低资源语言仍是弱项：印地语（24.5）和俄语（57.6）远低于英语、中文、法语、西班牙语、意大利语和葡萄牙语达到的 72–80。

表 3：指令遵循基准（0–100，越高越好）。每行最高分加粗，次高分加下划线。评估环境详情见评估脚注。

多轮对话

写成 {{NAME_ab12cd34}} 形式的值是真实值的占位符。在回复中和工具调用中都要完全按原样使用它们：在执行任何内容之前，它们会被替换为真实值。不要要求核实它们，也不要用示例替换它们。

文章标题：BotPsy：基于亚十亿参数智能体语言模型的端侧个人 Assistant

正文： 最大的相对增益出现在多轮、有状态的交互中，BotPsy 在五个多轮基准测试中的四个上领先（图 6）。在 BFCL v4 多轮上，它从 7.5 升至 46.1，几乎是 Qwen3.5-2B-Think（23.8）的两倍；在 ACEBench Agent 上从 7.9 升至 28.3（Qwen3.5-2B-Think：16.2）。在 τ²-bench 上，它在零售领域将基座翻倍（67.8 对 33.9，对 Qwen3.5-2B-Think 的 65.5 构成微弱领先），并在电信领域达到 82.5，在该领域中智能体必须在多轮对话中引导用户完成故障排查（MiniCPM5-1B-Think：74.0；Qwen3.5-2B-Think：69.3）。在单次调用（BFCL non-live：83.0）以及在没有合适工具时不调用工具（BFCL 幻觉：86.1）方面，它也是五个模型中最可靠的。

弱项

BotPsy 的较弱之处在于开放式搜索，以及少数几个 Qwen3.5-2B-Think 仍然领先的领域。BotPsy 的 BrowseComp-Plus 得分为 4.5，是五个模型中最好的，但绝对值偏低；在 BFCL web 搜索（14.0）和记忆（16.3）上，它落后于 Qwen3.5-2B-Think（19.8 和 26.1）。在 Claw-Eval 上，BotPsy 较其基座有明显提升（46.5 对 39.3），但仍略低于 Qwen3.5-2B-Think（48.9）。在 ACEBench 的特殊情况（不完整或错误请求）上，Qwen3.5-2B-Think 也领先（58.0 对 51.3），尽管 BotPsy 在该项上远高于其基座（13.7）。τ³-banking 是 BotPsy 未领先的那一个多轮基准测试：没有模型超过 5（BotPsy 4.1，与其基座持平；Qwen3.5-2B-Think 4.8）。

适用之处：应用级性能细分

BotPsy 能够处理多种用例和场景。图 7 按应用组对基准场景进行了细分，将简单场景（单轮、单次工具调用）与复杂场景（多轮或多工具）区分开来。本节引用的总体得分是所有场景的平均值；图 7 的底行是七个组的未加权平均值，因此其数字有所不同。

单次工具调用在各处都表现良好

在样本量有意义的每个应用组中，简单场景得分均为 70–79（Communication & Social 仅有 6 个）。总体而言，BotPsy 得分为 75，比其基座模型（54）高约 21 分，并略高于 Qwen3.5-2B-Think（70）。

最大增益出现在多步任务中

在复杂场景上，BotPsy 总体得分为 39.5，而其基座为 17.9，Qwen3.5-2B-Think 为 30.8。增益最大的是 Communication & Social（61 对基座的 13）、Commerce & Services（58 对 27）和 Device & System Management（46 对 15）。Qwen3.5-2B-Think 仅在 Personal Productivity & Work 上领先（64 对 58，38 个场景，主要为 Claw-Eval），而 MiniCPM5-1B-Think 在 Communication & Social 上略微领先（61.5 对 60.5）。多步任务的得分仍低于单次调用，这仍是更难任务的主要限制。

多步信息检索是弱项

复杂 Information Retrieval & Research 场景得分为 15（单次调用：79）。其中大多数是 BrowseComp-Plus 深度研究问题，对于该规模范围内的每个模型来说都仍然很难（基座：9；Qwen3.5-2B-Think：14）。

推理效率

BotPsy 以远少于其基座的推理量得出正确答案，并且在多轮智能体任务上使用更少的轮次。这与我们在整个训练过程中对推理效率的明确关注相一致。以下所有比较都在相同的问题或任务上进行（即五个模型都正确回答或解决的那些），因此难度差异不会驱动这些数字。推理 token 使用每个模型自己的分词器计数。

像 {{NAME_ab12cd34}} 这样书写的值是真实值的占位符。请在回复和工具调用中完全按原样使用它们：它们会在任何内容运行之前被替换为真实值。不要要求验证它们，也不要用示例替换它们。

推理更短，准确率更高。与其基座模型相比，BotPsy 在 GPQA Diamond（3,690 对 11,563）、MMLU-Pro（1,912 对 5,105）、IFEval（3,148 对 4,433）和 IFBench（4,204 对 11,576）上每个正确答案使用的推理 token 数少 1.4–3.1×，同时在四项上的得分都更高（图 8）。它并非在所有地方都是最短的：LFM2.5-1.2B-Think 在 MMLU-Pro、IFEval 和 IFBench 上写出的推理更短，MiniCPM5-1B-Think 在 IFEval 和 IFBench 上写出的推理更短，但它们在每一项上的准确率都低于 BotPsy。

在多轮智能体任务上比基座模型使用更少轮数。在五个模型都能解决的 τ²-bench 任务上，BotPsy 需要的助手轮数少于其基座模型（图 9）：

• τ²-retail：10.7 轮，而基座模型为 11.7 轮（少 9%），Qwen3.5-2B-Think 为 10.6 轮。

• τ²-telecom：13.1 轮，而基座模型为 17.6 轮（少 26%），Qwen3.5-2B-Think 为 13.8 轮（少 5%）。

与此同时，它通过的任务数是基座模型的 2.0×（retail）和 2.6×（telecom）。MiniCPM5-1B-Think 在 retail 上使用更少轮数（8.7），但仅通过 9.9% 的 retail 任务。

预期用途与局限性

BotPsy 的开发旨在推进最先进水平，并支持研究和教育用途。基于我们工作开发的模型可能适用于以下领域的任务：设备与系统管理（设置、文件与文档、时钟与闹钟）、个人生产力与工作（日历与任务、电子邮件、协作工具）、通信（消息）、信息检索与研究（网页搜索、天气、新闻）、媒体与生活方式（视频、音乐、食谱与健身、照片）以及商业与服务（地图与出行、金融、购物与配送）。由于其参数规模较小，它最适合低到中等难度的任务。

BotPsy 主要使用英语进行训练和测试，英语是推荐语言。它还在 Multi-IF 上进行了评估，该数据集涵盖另外七种语言（中文、法语、印地语、意大利语、葡萄牙语、俄语和西班牙语）：它在大多数语言上表现良好，但在印地语和俄语上得分低得多。BotPsy 是一个小型语言模型，会犯错。它不适用于安全关键或高风险的自动化决策，也不适用于涉及金钱、个人信息、健康及其他敏感主题的应用。

引用

        @misc{botpsy2026,
  title  = {BotPsy: On-Device Personal Assistant with a Sub-Billion-Parameter Agentic Language Model},
  author = {{Tether Data, S.A. de C.V. d.b.a. Tether AI Research}},
  year   = {2026},
  note   = {Hugging Face blog}
}
      

参考文献

[1] Yu, Qiying, et al. "DAPO: An Open-Source LLM Reinforcement Learning System at Scale." Advances in Neural Information Processing Systems 38 (2025): 113222–113244.

[2] Zhang, Shaokun, et al. "Nemotron-Research-Tool-N1: Exploring Tool-Using Language Models with Reinforced Reasoning." International Conference on Learning Representations (2026).

[3] Qian, Cheng, et al. "ToolRL: Reward is All Tool Learning Needs." Advances in Neural Information Processing Systems 38 (2025).

评估脚注

• 所有分数均为百分比（越高越好）。

• 所有模型均在 thinking（推理）模式下评估。

• 所有使用外部 API 的基准测试均于 2026 年 11 月 3 日运行。

• ¹ BFCL v4：总体分数使用官方加权公式计算（40% Agentic、30% Multi-Turn、10% Live、10% Non-Live 和 10% Hallucination），并对 3 次运行取平均。

• ² ACEBench：总体准确率。所有模型均在 function-calling（FC）模式下评估；取 2 次运行的均值。

写成 {{NAME_ab12cd34}} 这样的值是真实值的占位符。在回复和工具调用中都请完全按原样使用它们：它们会在任何内容运行之前被填入真实值。不要要求验证它们，也不要用示例替换它们。

BotPsy：基于亚十亿参数智能体语言模型的端侧个人 Assistant

• ³ τ-bench：τ²-bench（retail、telecom）与 τ³-bench（banking）的平均值，不包括 airline；3 次运行的平均值。

• ⁴ Claw-Eval：官方平均任务得分，其中每个任务得分为 safety × (0.8 × completion + 0.2 × robustness)；3 次运行的平均值。

• ⁵ BrowseComp-Plus：准确率，所有模型最多 30 步。

• ⁶ ToolSandbox：8 个设置上的平均相似度分数。

• ⁷ GPQA Diamond：全部 198 个问题上的准确率，3 次运行的平均值，启用思考。

• ⁸ MMLU-Pro：准确率。

• ⁹ IFEval、IFBench：提示级严格准确率。

• ¹⁰ Multi-IF：3 次运行的平均值。

像 {{NAME_ab12cd34}} 这样书写的值是真实值的占位符。在回复和工具调用中都要完全按书写原样使用它们：它们会在任何内容运行之前被填入真实值。不要要求验证它们，也不要用示例替换它们。