annotate

一个用于探索和标注智能体追踪数据的Claude技能

安装使用

复制下面这段提示词发给你的 AI(Claude / Cursor / TRAE / Codex / WorkBuddy 等),它会自动帮你完成安装:

帮我安装这个 AI Skill:annotate。
它的用途是:一个用于探索和标注智能体追踪数据的Claude技能
完整的 Skill 内容见:https://321skill.com/skills/annotate/raw/index.md
请读取该页面内容,如果是 SKILL.md 格式直接安装,如果是 README 提炼核心 prompt 后安装。

提示词包含完整的 Skill 内容链接,AI 读取后即可完成安装。你也可以 查看完整内容 确认无误。

使用示例

'hey claude use annotate',它会引导你完成智能体追踪数据的导入、评估标准的配置,并借助AI评判员辅助你进行批量的行为标注。你可以通过它生成的浏览器可视化界面,清晰地审查Agent的每一步操作,从而系统性地评估其表现并发现优化点。

介绍

Haize Annotate是一个专为Claude Code设计的技能,旨在帮助开发者高效地分析和评估AI智能体的运行表现。它解决了在复杂Agent开发中,如何系统性地审查、标注和评估海量交互日志的难题。

使用时,你只需将包含Agent原始追踪数据的目录作为工作区,然后激活该技能。Claude会引导你完成数据导入、评估标准配置以及具体的标注流程。过程中,它会自动生成数据解析脚本,并在浏览器中打开一个可视化工具,让你能清晰地看到Agent的每一步决策和交互细节。

这个技能非常适合从事智能体开发、需要对其行为进行量化评估和优化的开发者或研究团队。无论是评估新模型的性能,还是调试现有Agent的逻辑问题,它都能提供结构化的分析支持。

请注意,在使用前需要确保已安装Python和Node.js环境。在数据导入阶段,务必仔细审查Claude自动生成的ingest.py脚本,确认其解析逻辑符合你的数据结构后再执行,以确保数据转换的准确性。

核心特点

与通用日志分析工具不同,它深度集成于Claude Code工作流,能根据你的原始追踪数据格式动态生成解析脚本,并提供交互式可视化界面辅助标注,实现了从原始数据到结构化评估的一站式处理。

注意事项

不适合处理非结构化或格式完全未知的日志数据,且需要用户具备基础的Python知识来审查生成的解析脚本。

常见问题

这个技能支持哪些AI模型作为评判员(AI judge)?

支持任何Pydantic AI兼容的模型,可通过设置HAIZE_ANNOTATE_MODEL_NAME环境变量(如'openai:gpt-4.1')来指定。

标注后的数据存储在哪里?

所有标注状态和数据都保存在工作目录下的.haize_annotations/文件夹中,删除该文件夹即可重置所有状态。

给 AI 助手的安装指引

如果你的 AI 编程助手(Claude Code、Cursor、TRAE 等)能看到这个页面,把下面这段发给它即可自动完成安装:

请访问 https://321skill.com/skills/annotate/raw/index.md 读取 annotate 的原始 Skill 定义(Markdown 格式),按其中说明在我的环境里完成安装和配置。