Agent Desktop

通过无障碍树自动化桌面操作

安装使用

复制下面这段提示词发给你的 AI(Claude / Cursor / TRAE / Codex / WorkBuddy 等),它会自动帮你完成安装:

帮我安装这个 AI Skill:Agent Desktop。
它的用途是:通过无障碍树自动化桌面操作
完整的 Skill 内容见:https://321skill.com/skills/agent-desktop-x-6/raw/index.md
请读取该页面内容,如果是 SKILL.md 格式直接安装,如果是 README 提炼核心 prompt 后安装。

提示词包含完整的 Skill 内容链接,AI 读取后即可完成安装。你也可以 查看完整内容 确认无误。

使用示例

'使用 agent-desktop 打开计算器并计算 123*456,然后截图保存结果。' 它会自动调用 agent-desktop CLI,通过无障碍树找到计算器窗口,模拟按键输入表达式,随后执行截图并将结果返回给你。

介绍

Agent Desktop 解决的是 AI 代理如何像人类一样观察、交互和自动化桌面应用的问题。传统桌面自动化依赖屏幕坐标或图像识别,而 Agent Desktop 通过原生操作系统无障碍树(Accessibility Tree)直接获取应用界面的结构化元素,使 AI 能够精确识别按钮、输入框、列表等控件,并执行点击、输入、滚动等操作,无需繁琐的坐标定位或截图模板。

使用方式非常简洁:通过 agent-desktop CLI 工具,AI 可以用自然语言描述目标操作,例如“打开记事本并输入‘Hello World’”,CLI 会自动解析命令、查找目标窗口、定位元素并执行动作。支持 Windows、macOS 和主流 Linux 桌面环境,只需确保系统无障碍服务已开启。

适合需要让 AI 代理具备桌面操控能力的开发者,尤其是智能体开发、全栈开发和测试工程师。例如,AI 在开发应用时可能需要自动测试桌面端的 UI 功能,或是在执行自动化流程时操作本地软件。Agent Desktop 为 AI 提供了一种可靠、精确的桌面交互通道。

使用前请注意:确保系统已启用无障碍功能(macOS 需在“安全性与隐私”中授权辅助功能权限,Windows 需开启“讲述人”或类似服务)。该工具依赖无障碍树的完整性,若某些老旧或自定义控件未实现无障碍接口,可能无法识别。推荐在开发测试环境中先试用,确认兼容性后再集成到生产流程。

核心特点

与 PyAutoGUI、SikuliX 等基于坐标或图像识别的方案不同,Agent Desktop 直接读取系统无障碍树,无需屏幕截图或坐标映射,因此不受屏幕分辨率、窗口位置变化影响,且支持跨平台,尤其适合 AI 代理需要精确识别 UI 元素语义的场景。

注意事项

不适用于无法提供无障碍树信息的应用(如某些游戏、老旧软件或自定义图形界面),以及需要图像内容识别(如 OCR、图片验证码)的场景。

常见问题

如何安装 agent-desktop?

执行 npm install -g agent-desktop 即可全局安装,或使用 npx agent-desktop 直接运行。

支持哪些操作系统?

支持 Windows、macOS 和主流 Linux 桌面环境(需 GNOME/KDE 等支持无障碍树)。

给 AI 助手的安装指引

如果你的 AI 编程助手(Claude Code、Cursor、TRAE 等)能看到这个页面,把下面这段发给它即可自动完成安装:

请访问 https://321skill.com/skills/agent-desktop-x-6/raw/index.md 读取 Agent Desktop 的原始 Skill 定义(Markdown 格式),按其中说明在我的环境里完成安装和配置。