SmallCode 本地小模型编程会话
将以下提示词粘贴到你的 AI 对话框中:
请根据 https://skillhub.cn/install/skillhub.md,安装 @user_3c6cb52e/run-local-small-model-coding-sessions-with-smallcode 到你的 AI 助手。
技能介绍
解决的问题
想在本地跑一个 8B-35B 参数量的编码模型,但又担心两个现实问题:一是上下文窗口有限,长会话很容易把预算吃光;二是小模型的输出不稳定,工具调用和代码编辑的解析容错能力很差,稍有格式偏差就整体失败。另一个常见痛点是规划能力弱——模型倾向于想到哪写到哪,改到一半才发现方向不对。
这个技能针对这类场景,提供一个终端原生的编码代理工作流。
核心能力
- 预算管理的上下文:对上下文长度进行管控,避免长会话轻易撑爆窗口
- 容错的工具解析:对工具调用的输出解析更加宽容,容忍小模型不规范的格式
- TODO 驱动的规划:先规划任务步骤再动手,而不是边写边想
- 补丁式编辑:通过 patch 方式修改代码,而不是整文件重写
关键步骤
典型的会话流程是:先明确任务目标并拆解为 TODO 列表,再逐步执行每一步;执行过程中通过 patch 生成差异来修改文件,而非直接替换整个文件;同时持续监控上下文的预算消耗。
适用边界与注意点
使用前需要具备以下条件:Node.js/npm 环境、一个本地 8B-35B 的编码模型或兼容的本地模型运行时、对目标项目的终端访问权限。
需要注意,该技能无法自动提取上游的安装或使用说明,在将本技能用于敏感工作流之前,应先审阅上游项目源码。上游仓库地址:https://github.com/1991513ccie-png/skills
使用场景
- 在无外网或高保密要求的项目目录中,用本地 8B-35B 编码模型完成一次代码重构或缺陷修复任务
- 长会话上下文即将耗尽时,需要代理在有限预算内继续推进当前正在开发的功能
- 小模型输出不稳定、工具调用格式常有偏差时,需要在终端里可靠地执行规划、编辑、验证等编码操作
- 涉及多文件改动的场景,希望以补丁方式逐步修改代码,便于审查与回滚,而不是整文件重写
适合人员
- 有隐私合规要求、无法使用云端大模型的企业内部开发者
- 硬件资源有限、希望在本地 8B-35B 模型上跑编码代理的独立开发者
- 尝试在终端里把本地小模型当作编程助手使用的全栈工程师
- 关注本地模型部署与终端 agent 工作流、需要容错解析与上下文管理的工程实践者