Agent Desktop
通过无障碍树自动化桌面操作
安装使用
复制下面这段提示词发给你的 AI(Claude / Cursor / TRAE / Codex / WorkBuddy 等),它会自动帮你完成安装:
帮我安装这个 AI Skill:Agent Desktop。 它的用途是:通过无障碍树自动化桌面操作 完整的 Skill 内容见:https://321skill.com/skills/agent-desktop-x-6/raw/index.md 请读取该页面内容,如果是 SKILL.md 格式直接安装,如果是 README 提炼核心 prompt 后安装。
提示词包含完整的 Skill 内容链接,AI 读取后即可完成安装。你也可以 查看完整内容 确认无误。
使用示例
'使用 agent-desktop 打开计算器并计算 123*456,然后截图保存结果。' 它会自动调用 agent-desktop CLI,通过无障碍树找到计算器窗口,模拟按键输入表达式,随后执行截图并将结果返回给你。
介绍
Agent Desktop 解决的是 AI 代理如何像人类一样观察、交互和自动化桌面应用的问题。传统桌面自动化依赖屏幕坐标或图像识别,而 Agent Desktop 通过原生操作系统无障碍树(Accessibility Tree)直接获取应用界面的结构化元素,使 AI 能够精确识别按钮、输入框、列表等控件,并执行点击、输入、滚动等操作,无需繁琐的坐标定位或截图模板。
使用方式非常简洁:通过 agent-desktop CLI 工具,AI 可以用自然语言描述目标操作,例如“打开记事本并输入‘Hello World’”,CLI 会自动解析命令、查找目标窗口、定位元素并执行动作。支持 Windows、macOS 和主流 Linux 桌面环境,只需确保系统无障碍服务已开启。
适合需要让 AI 代理具备桌面操控能力的开发者,尤其是智能体开发、全栈开发和测试工程师。例如,AI 在开发应用时可能需要自动测试桌面端的 UI 功能,或是在执行自动化流程时操作本地软件。Agent Desktop 为 AI 提供了一种可靠、精确的桌面交互通道。
使用前请注意:确保系统已启用无障碍功能(macOS 需在“安全性与隐私”中授权辅助功能权限,Windows 需开启“讲述人”或类似服务)。该工具依赖无障碍树的完整性,若某些老旧或自定义控件未实现无障碍接口,可能无法识别。推荐在开发测试环境中先试用,确认兼容性后再集成到生产流程。
核心特点
与 PyAutoGUI、SikuliX 等基于坐标或图像识别的方案不同,Agent Desktop 直接读取系统无障碍树,无需屏幕截图或坐标映射,因此不受屏幕分辨率、窗口位置变化影响,且支持跨平台,尤其适合 AI 代理需要精确识别 UI 元素语义的场景。
注意事项
不适用于无法提供无障碍树信息的应用(如某些游戏、老旧软件或自定义图形界面),以及需要图像内容识别(如 OCR、图片验证码)的场景。
常见问题
如何安装 agent-desktop?
执行 npm install -g agent-desktop 即可全局安装,或使用 npx agent-desktop 直接运行。
支持哪些操作系统?
支持 Windows、macOS 和主流 Linux 桌面环境(需 GNOME/KDE 等支持无障碍树)。
给 AI 助手的安装指引
如果你的 AI 编程助手(Claude Code、Cursor、TRAE 等)能看到这个页面,把下面这段发给它即可自动完成安装:
请访问 https://321skill.com/skills/agent-desktop-x-6/raw/index.md 读取 Agent Desktop 的原始 Skill 定义(Markdown 格式),按其中说明在我的环境里完成安装和配置。
AI 可直接读取的原始 Markdown 地址:/skills/agent-desktop-x-6/raw/index.md(查看排版版本)