Translation(model translation, not the source's own text)
Inference Gateway Desktop
一个原生桌面应用,让你电脑上运行的 AI agents 可以使用任意模型提供商和你自己的 API keys。
类似 Codex 或 Co-Work,但不绑定供应商:OpenAI、Anthropic、Google、本地 Ollama 模型或任何 OpenAI 兼容端点,全部在同一个窗口里使用。没有数据孤岛,也没有供应商锁定。
你可以做什么
- 在你的项目里聊天和写代码——agent 在你选定的项目目录中运行,文件工具被限制在该目录内。
- 给 agents 一台自己的电脑——在 Kubernetes 工作区上运行 agent,在它的聊天窗口里或 Computers 下查看它的屏幕,在它卡住时接管鼠标和键盘。每个工作区在 Settings > Workspaces 中都有独立的 Computer use、Browser use、Recording 和 Text to speech 开关,默认开启;Settings > General 中的开关以及 Settings > Voice samples 中的语音开关只作用于这台电脑。工作区还可以挂载卷——即其命名空间下已有的 claim,在 agent 需要先复制再修改的地方以只读方式挂载——这样重型应用或原始素材就不会被下载到每台机器上。在本地集群上,Settings > Compute 会把本机的文件夹共享给它的工作区——直接从本机挂载、不做复制,可对所有工作区或仅对某一个工作区只读。
- 驱动你的浏览器——opentask 扩展让 agent 能在你日常使用的浏览器中导航、点击、输入和读取标签页。
- 编写你自己的 agents——带有名称、指令、模型和面孔的 Markdown 文件。Agents 之间可以相互交接工作。
- 制作内容——在 Content projects 的时间线上制作说话头像短片、text to speech 和 text to video。
- 保持可迁移——应用会自我更新,Export / Import 能把你的整套配置迁移到新机器。
安装
从最新 release 下载适合你平台的资源:
| 平台 | 下载 |
|---|---|
| macOS(Apple Silicon 和 Intel) | .dmg |
| Linux x86_64 | .AppImage 、 .deb 或 .rpm |
| Windows x64 | -setup.exe 或 .msi |
Release 没有经过 Apple 或 Microsoft 签名,因此首次启动需要额外点一下:在 macOS 上右键 > 打开并确认,在 Windows 上选择“更多信息” > “仍要运行”。首次运行时,应用会把 infer CLI 和 gateway 下载到 ~/.infer/(在 Windows 上你需要自己安装 gateway,见 How it works)。然后在 Settings > API Keys 下添加你的提供商密钥,就可以开始聊天了。
了解更多
- How it works——gateway 和 CLI、工作目录与沙箱、更新、支持的平台。
- Agents and computers——编写你自己的 agents,并给它们一台属于自己的机器。
- The Mac's GPU——在 Podman 上运行本地集群,让它的电脑使用这台 Mac 的 GPU。
- Browser use——连接 opentask 扩展。
- Avatars——在 Content projects 中制作你自己口型同步的说话短片。
- Export / Import——把你的配置迁移到新机器。
- examples/computer-use——本地 Kubernetes 集群中三台 Ubuntu 桌面上的三个 agents。
- examples/filmcraft——每台电脑上都装有 FilmCraft 的编辑 agent,来自与本地集群共享的文件夹。
- examples/drone-footage——一个 agent 端到端剪辑无人机原始素材:防抖、调色、ElevenLabs 音效,以及为每种平台画幅各导出一次。
开发
使用 Tauri 构建,前端为 React + TypeScript(Bun + Vite、Tailwind v4 + shadcn/ui),由 Inference Gateway 驱动。前置条件、本地搭建和构建请见 CONTRIBUTING.md。