desktop-agent
通过命令行自动化控制电脑鼠标、键盘和屏幕的AI技能
安装使用
复制下面这段提示词发给你的 AI(Claude / Cursor / TRAE / Codex / WorkBuddy 等),它会自动帮你完成安装:
帮我安装这个 AI Skill:desktop-agent。 它的用途是:通过命令行自动化控制电脑鼠标、键盘和屏幕的AI技能 完整的 Skill 内容见:https://321skill.com/skills/desktop-agent/raw/index.md 请读取该页面内容,如果是 SKILL.md 格式直接安装,如果是 README 提炼核心 prompt 后安装。
提示词包含完整的 Skill 内容链接,AI 读取后即可完成安装。你也可以 查看完整内容 确认无误。
使用示例
“帮我把这个文件夹里的所有截图,按顺序重命名并移动到‘周报素材’文件夹里。”,AI会先使用 `screen screenshot` 确认当前文件夹视图,然后通过 `keyboard hotkey` 和 `mouse` 命令组合,完成选择、重命名、拖拽移动等一系列操作。或者
对AI说:“打开浏览器,搜索最近的AI新闻,把前三页的标题截图保存下来。”,AI会依次执行打开应用、输入文字、翻页、截图等任务。
介绍
Desktop Control Skill 解决了AI助手无法直接与用户本地桌面环境进行物理交互的难题。它通过封装PyAutoGUI库,为AI Agent提供了模拟鼠标移动点击、键盘输入、屏幕截图与识别等一系列自动化控制能力,让AI能够像真人一样操作电脑。
使用方式非常直接,AI Agent通过调用uvx desktop-agent命令行工具,后接具体的控制类别(如mouse、keyboard、screen)和命令即可。例如,输入uvx desktop-agent mouse move 960 540即可将鼠标移动到屏幕中心,整个过程无需用户手动干预。
该技能非常适合需要批量执行重复性桌面操作的用户,如软件测试工程师进行UI自动化测试、运营人员批量处理数据报表、或任何希望通过自然语言指令让AI完成一系列电脑操作(如打开应用、填写表单、截取信息)的办公人员。
与同类桌面自动化工具(如AutoHotkey脚本、RPA软件)相比,它的核心优势在于深度集成于AI Agent工作流中。用户无需学习复杂的脚本语法或配置图形化流程,只需用自然语言对AI下达指令,由AI理解意图并自动生成和执行相应的桌面控制命令,实现了更高层级的意图到动作的转换。
核心特点
本技能专为AI Agent设计,通过自然语言指令驱动桌面自动化,无需用户编写或理解底层脚本。其命令结构清晰,直接集成在AI工作流中,实现了“所想即所得”的自动化操作。
注意事项
不适合对操作精度和实时性要求极高的场景(如高速游戏操作),且其屏幕识别功能依赖于图像匹配和OCR的准确性。
常见问题
这个技能安全吗?会不会控制我的电脑做坏事?
技能本身是工具,其行为完全由调用它的AI Agent控制。请确保你信任所使用的AI Agent及其指令来源。
它能识别屏幕上的按钮并点击吗?
可以。使用 `screen locate` 命令配合图片模板,或 `locate-text-coordinates` 命令通过OCR识别文字,找到坐标后即可用 `mouse click` 点击。
给 AI 助手的安装指引
如果你的 AI 编程助手(Claude Code、Cursor、TRAE 等)能看到这个页面,把下面这段发给它即可自动完成安装:
请访问 https://321skill.com/skills/desktop-agent/raw/index.md 读取 desktop-agent 的原始 Skill 定义(Markdown 格式),按其中说明在我的环境里完成安装和配置。
AI 可直接读取的原始 Markdown 地址:/skills/desktop-agent/raw/index.md(查看排版版本)