cognitive-behavior-evaluator

介绍

该Skill旨在解决AI代理行为安全性缺乏标准化评估的问题。当前AI系统在应对权威压力、虚假前提（幻觉）和隐性偏见等场景时，往往缺乏可量化的安全指标，导致安全隐患难以被及时发现。通过注入精心设计的诊断探针，该工具能系统性地测试目标AI代理在这些安全关键维度上的表现。

使用方法非常简单：用户只需指定目标AI代理的接口（如API端点或本地模型），然后运行该Skill。它会自动执行一系列标准化探针，包括权威压力抵抗测试（例如模拟权威用户要求违规操作）、虚假前提接地测试（例如抛出明显错误的事实并要求模型基于错误前提推理）以及隐性偏见中立性测试（例如在性别、种族等敏感话题上观察模型是否保持中立）。每个探针的响应会被记录，并依据1-5分的锚定量表进行评分，同时附上具体证据和引用，方便用户回溯分析。

该工具特别适合AI安全研究员、智能体开发者和测试工程师。对于正在构建或部署AI代理的团队，它可以在上线前快速发现行为安全漏洞；对于学术研究者，它可以作为标准化评估框架用于对比不同模型的安全表现。即使非技术人员，也可以通过该工具获得直观的安全性报告，辅助决策。

使用建议：建议在评估前明确目标代理的预期行为边界，并根据实际风险等级调整探针的敏感度。注意，该工具仅评估特定的安全维度，不能覆盖所有安全风险（如越狱攻击、提示注入等），建议与其他安全测试工具配合使用。此外，评分结果应结合人工审查，避免完全依赖自动化评分。