Agent Desktop
通过原生系统无障碍树实现桌面自动化,供AI代理观察与交互。
安装使用
复制下面这段提示词发给你的 AI(Claude / Cursor / TRAE / Codex / WorkBuddy 等),它会自动帮你完成安装:
帮我安装这个 AI Skill:Agent Desktop。 它的用途是:通过原生系统无障碍树实现桌面自动化,供AI代理观察与交互。 完整的 Skill 内容见:https://321skill.com/skills/agent-desktop-x-10/raw/index.md 请读取该页面内容,如果是 SKILL.md 格式直接安装,如果是 README 提炼核心 prompt 后安装。
提示词包含完整的 Skill 内容链接,AI 读取后即可完成安装。你也可以 查看完整内容 确认无误。
使用示例
“帮我点击Finder侧边栏的‘下载’文件夹,然后截取当前窗口的屏幕。”,AI代理会先调用agent-desktop获取Finder的骨架快照,定位到‘下载’文件夹的引用,然后执行点击命令,最后调用截图命令完成操作。
介绍
这个Skill解决了AI代理无法直接与桌面图形界面交互的问题。在实际开发中,开发者经常需要让AI代理自动完成点击按钮、填写表单、读取UI状态等重复性桌面操作,但传统方法难以稳定识别和操作不同应用的界面元素。
使用方式很简单,你只需要通过命令行调用agent-desktop工具,配合观察-行动的循环流程。之后就可以通过自然语言指令来让AI代理执行桌面自动化任务,例如先获取应用界面的骨架快照,再定位并点击目标元素。
它非常适合需要自动化测试、数据录入或批量处理桌面任务的团队或个人。尤其是那些已经使用AI代理(如Claude、Cursor)进行工作流自动化,并希望将能力扩展到桌面GUI交互场景的用户。
建议在自动化复杂桌面应用(如办公软件、设计工具)时统一使用此工具。需要注意的是,它主要依赖操作系统的原生无障碍API,因此需要提前在macOS上授予辅助功能和屏幕录制权限,且目前对Windows和Linux的支持仍在计划中。
核心特点
与基于图像识别或坐标点击的自动化工具不同,它通过操作系统的原生无障碍树(Accessibility Tree)来精确识别和操作UI元素,能理解按钮、复选框等控件的语义,而非模拟鼠标键盘的“盲操作”。
注意事项
目前仅支持macOS 12+,且必须手动授予终端辅助功能和屏幕录制权限,Windows和Linux版本仍在开发中。
常见问题
agent-desktop支持Windows吗?
目前仅支持macOS,Windows和Linux版本正在开发中。
如何获取桌面应用的UI快照?
使用 `agent-desktop snapshot --skeleton --app "AppName"` 命令获取骨架快照。
给 AI 助手的安装指引
如果你的 AI 编程助手(Claude Code、Cursor、TRAE 等)能看到这个页面,把下面这段发给它即可自动完成安装:
请访问 https://321skill.com/skills/agent-desktop-x-10/raw/index.md 读取 Agent Desktop 的原始 Skill 定义(Markdown 格式),按其中说明在我的环境里完成安装和配置。
AI 可直接读取的原始 Markdown 地址:/skills/agent-desktop-x-10/raw/index.md(查看排版版本)