pi-qwen-mode-proxy

为 llama.cpp 服务的 Qwen 模型提供采样模式代理,可在思考、编程、指令模式间切换。

安装使用

复制下面这段提示词发给你的 AI(Claude / Cursor / TRAE / Codex / WorkBuddy 等),它会自动帮你完成安装:

帮我安装这个 AI Skill:pi-qwen-mode-proxy。
它的用途是:为 llama.cpp 服务的 Qwen 模型提供采样模式代理,可在思考、编程、指令模式间切换。
完整的 Skill 内容见:https://321skill.com/skills/pi-qwen-mode-proxy/raw/index.md
请读取该页面内容,如果是 SKILL.md 格式直接安装,如果是 README 提炼核心 prompt 后安装。

提示词包含完整的 Skill 内容链接,AI 读取后即可完成安装。你也可以 查看完整内容 确认无误。

使用示例

“启动代理并将模式设置为‘coding’,然后帮我写一个Python快速排序函数。” 代理会以优化过的编程采样参数将请求转发给 Qwen 模型,从而得到更简洁、符合编程规范的代码。在代码审查场景,你可以切换至“思考”模式,让模型在给出建议前先进行更详细的逻辑推理。

介绍

该 Skill 解决了在使用 llama.cpp 服务 Qwen 系列模型时,模型输出模式单一、无法根据不同任务需求灵活切换的问题。它作为一个代理层,允许用户通过简单的 API 调用或配置,动态地将模型切换到“思考”、“编程”或“指令”等不同的采样模式,从而优化模型在不同场景下的回答风格和逻辑。

使用方式通常是在调用模型 API 时,通过该代理服务传递特定的模式参数。例如,在构建基于 llama.cpp 的 AI 应用时,将请求先发送给此代理,由代理根据指定的模式(如“coding”)调整采样策略后再转发给 Qwen 模型,最后将结果返回给用户。

它非常适合那些已经使用 llama.cpp 部署 Qwen 模型,并希望在不修改模型本身或底层服务代码的情况下,就能获得更专业化、场景化输出的开发者和 AI 应用构建者。例如,开发智能代码助手、多轮对话系统或需要模型在不同“人格”间切换的实验性项目。

建议在使用前,先通过简单查询测试不同模式下的输出差异,以选择最适合当前任务的模式。注意,其效果依赖于底层 Qwen 模型本身的能力和 llama.cpp 的兼容性,且主要作用于采样策略,并非为模型添加全新功能。

核心特点

与同类通用模型调用代理不同,它专门针对 llama.cpp 服务的 Qwen 模型设计了预设的、经过调优的采样模式(思考/编程/指令),用户无需手动调整复杂的采样参数即可获得针对性的输出优化。

注意事项

仅适用于通过 llama.cpp 提供服务的 Qwen 系列模型,不适用于其他推理后端或其他模型家族。

常见问题

这个代理和直接调用 llama.cpp API 有什么区别?

它封装了针对不同任务优化的采样参数预设,让你通过切换模式(如“coding”)就能获得更专业的输出,而无需手动调整温度、top_p等复杂参数。

支持哪些 Qwen 模型?

理论上支持所有能被 llama.cpp 正确加载和服务的 Qwen 模型,具体兼容性需测试。

给 AI 助手的安装指引

如果你的 AI 编程助手(Claude Code、Cursor、TRAE 等)能看到这个页面,把下面这段发给它即可自动完成安装:

请访问 https://321skill.com/skills/pi-qwen-mode-proxy/raw/index.md 读取 pi-qwen-mode-proxy 的原始 Skill 定义(Markdown 格式),按其中说明在我的环境里完成安装和配置。