Newshot

Air Office:面向 AI 安全研究的开源本地优先桌面工作区

Translation(model translation, not the source's own text)

AIR Office

一款免费、开源、本地优先的桌面应用,用于智能体研究与知识管理,旨在增强变革性 AI 安全与存在性风险防范方面的能力。

关于

AIR Office 是你装在应用里的个人 AI 安全实验室,将有依据的知识管理、护栏工具和可共享的 AI 智能体 harness 自动化整合进一个适应你工作流的友好工作区。它面向从事变革性 AI 及其后果研究的科学家、工程师、评估人员、政策团队和独立研究者,让你的工作保持私密、结构化,并在不同会话之间保持一致,而不是分散在互不连通的工具中。这些能力共同降低了使用门槛,同时支持 AI 安全与治理生态系统中的人才能力建设和开放基础设施。

AIR Office 由 Gyro Governance Lab 开发,是其 AI 安全与存在性风险防范工作的一部分。

智能体对话和工具调用运行在 Microsoft Copilot SDK harness 上,包括自带密钥和本地模型端点。

探索工作区

从预置的展示内容中打开 Home、Programs、notes、sample chats、agents、Calendar 和 Arcade。

在此处探索预置工作区,如果想玩个游戏,可以打开 Arcade。此演示中不提供发送聊天、Local AI、Code 和实时文件夹挂载功能。

变革理论

缓解变革性 AI 带来的风险需要快速、高严谨度的研究与治理,然而能力强大的工具仍集中在前沿实验室内部,而实验室之外的安全从业者只能依赖碎片化、依赖云端的工具,这些工具会侵蚀人类监督、缺乏来源追溯,并暴露敏感工作内容。AIR Office 通过将免费、开源、本地优先、专为 AI 安全与政策工作流定制的桌面基础设施置于人人可及之处,同时解决这两个瓶颈。通过整合有依据的知识管理、自动化审计工具和结构化记忆,该工作区防止 AI 引发的认知漂移,同时让人类保留最终控制权。此外,其内置的研究员计划与开放市场让该领域的从业者能够将各自的方法打包成可复用的社区工具,从而复利式地增强生态系统能力,并加速那些使用通用商业工具不会发生的高信任度安全干预。

能力与服务

AIR Office Apps
AIR Office Apps
  • 🏛️集成式 AI 安全研究员计划与 Crafts。将研究与工作流发展为可复用的基础设施,并通过我们无缝的内置协议贡献给社区。
  • 🛒Market。发现可复用资源(政策文档、AI Skills 等),一键将其添加到你的 AI 对话中。
  • 🤖AI Teams。联系我们的预配置智能体精选,或创建你自己的智能体。
  • 💻Code。通过我们自带的集成 VS Code 工作台,无需离开应用即可运行诊断工具、脚本并编辑代码。
  • 📅Calendar。保存事件并运行周期性 AI 自动化。
  • ⚖️Compare。针对同一提示词并排运行两个模型。
  • 🔎Chat。直接在聊天界面中编辑本地文件、搜索网页并运行 AI 安全诊断。
  • 🖼️Media。在工作需要时生成图像并采集麦克风或摄像头输入。
  • 🕹️Arcade。通过玩街机电子游戏释放压力、从职业倦怠中恢复。
AIR Office Market for discovering models and reusable workspace resources
AIR Office Market for discovering models and reusable workspace resources
AIR Office Arcade
AIR Office Arcade

有依据的知识管理

从报告、论文、规范、立法和标准构建可搜索的 Knowledge 集合,然后让你的 AI 智能体给出有依据的回答并跟进草稿。富文本 Notes 保存文献综述、评估报告、设计文档、备忘录和聊天记录,全部供你和常用的 AI 自动化直接取用。

AIR Office 工作区,包含笔记、文件和本地 AI 对话
AIR Office 工作区,包含笔记、文件和本地 AI 对话

预置的参考标准包括 EU AI Act、NIST AI Risk Management Framework、NIST Generative AI Profile 和 OECD AI Principles。面向开发与评估工作的配套合集涵盖 UN SDG 目标、OECD-DAC 评估和 UNDP DPI 指南,并附有 NGO Playbook 证据笔记。每个合集都记录其版本与来源,你也可以在旁边添加自己的研究与指南。

专用 AI Actions

Actions 是你可以创建、调整或安排的有序 AI 工作流,用于审查、报告、准备,或你的实践所需的任何多步骤方法。

AIR Office actions
AIR Office actions

AI 安全与治理启动套件:

  • ✍️质量改进:审查结构、证据、替代方案和不确定性。
  • 🔎政策审计:将主张与证据关联,并标记缺乏支持的主张。
  • 📋政策报告:准备带归属的报告,包含建议和局限性。
  • 🧭元评估:审查来源和问责性。
  • ✨文本清理:去除 AI slop 并修复格式问题。

Actions 移植自我们的 Chrome Extension AI Inspector。

人类仍负责持续监督和最终判断,AIR Office 帮助你的 AI 意识到这一点,并发挥其对齐增强的能力。

Gyro Governance Lab 的前沿 AI 安全研究工具

Lab 的两种方法处于 AIR Office 处理 AI 辅助工作中的权威、能动性和持久人类方向的核心。

  • 🤚The Human Mark:AI 安全风险的结构化分类法。了解更多
  • 🎓Gyroscopic Reasoning:AI 对齐的正式协议。了解更多

社区 Playbooks

Craft Standards 打包了技能、代理和 Actions,你可以启用它们来进行结构化工作,而不是临时提示。两个已发布的 playbook 可供采用:

  • 🛡️Security Playbook:面向 AI 代理、应用和代码的基于 OWASP 的评估方法,附带配套的安全 Reference 包。了解更多
  • 🌍NGO Playbook:项目设计、SDG 对齐、监测与评估以及筹资策略技能,改编自 Lijie Zhou 的 NGO Agent Skills,附带相关的开发 Reference 包。了解更多

安全与隐私

本地优先的数据主权

工作区记录保留在你的计算机上。选择本地模型进行本机推理,或选择云提供商以使用其模型和工具。托管提供商和已启用的连接器仅接收每个请求所需的内容。

需要可移植副本时,导出对话和笔记。连接文件夹即授权该根目录,断开连接不会删除其文件。在设置和聊天中,你可以控制哪些工具运行,以及更改是否需要先获得批准。更完整的隐私和数据控制摘要见 GitHub 上的主权文档。

发布审计

AIR Office 是开源的,其代码可公开检查。在接受发布之前,我们会用开源工具检查交付的软件,查找绝不应发布的机密、第三方库中的已知问题、原生代码中的许可证和依赖政策问题,以及我们自己的源代码和交付的 Lab 技能中的风险模式。未完成完成的审查不算作干净结果。要报告安全问题,请参阅 SECURITY.md。

发布审查使用:

  • TruffleHog:识别泄露的机密和凭据。
  • Trivy:检测漏洞、错误配置和软件物料清单。
  • Semgrep:使用自定义模式扫描源代码中的安全缺陷。
  • CodeQL:对源代码执行深度语义分析。
  • SkillSpector:评估交付的 Lab 技能。

演示

一段简短的 AIR Office 工作区录屏导览。

Alpha 版本

0.1.0-AIR_Office_Alpha 是首个公开桌面版本。

平台下载
Windows (x64)AIR-Office-Setup-0.1.0-x64.exe
macOS Apple SiliconAIR-Office-0.1.0-arm64.dmg
macOS IntelAIR-Office-0.1.0-x64.dmg

这些构建是未签名的 alpha 包。在 macOS 上,首次启动后你可能需要从「系统设置 → 隐私与安全性」中打开该应用。功能可能变更,软件可能不稳定。

如果你想报告问题,请提交 issue。请附上应用版本、操作系统、模型以及复现步骤,并移除 API 密钥和私人文档内容。

完整说明:CHANGELOG.md。文档、引用与贡献者材料见 GitHub。

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by HN AI
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗