LLM 命令行界面

解决什么问题

终端里直接用 LLM 的痛点在于：不同模型厂商的 SDK 和认证方式各不相同，切换服务要改代码或记多套命令，本地模型又缺少统一入口。llm 把远程 API 模型（OpenAI、Anthropic Claude、Google Gemini、Meta Llama 等）和本地模型放到同一套命令行与 Python 接口里，让提示词、对话和输出处理不必为每个供应商重写一遍。

如何工作

• 提供 CLI 与 Python 库两种调用路径：既能在 shell 中直接提问，也能在脚本里用代码发起请求并解析结果。
• 通过插件机制接入模型后端，远程模型走各家 API，本地模型由对应插件负责加载与推理。
• 对话记录可写入 SQLite，便于回溯会话、整理调试样本，而不是把历史只留在终端滚动条里。
• 内置 templates 与 embeddings 能力，适合把固定提示结构复用到批量任务，或把文本转成向量后再做检索与对比。
• 支持 tool use，让模型在受控函数调用中完成取数、检索或执行动作，而不是只返回一段自然语言。

适用边界

• 本地模型能力依赖可用插件与运行环境，能否跑起来取决于对应后端的配置与依赖。
• 它是访问层与工具层，不替代模型训练、数据清洗或评估流程；需要复杂编排时仍要在外层写控制逻辑。
• README 中的文档构建与 subprocess 片段属于构建/调试流程示例，不构成日常使用时的核心功能说明。