Agent Skills
返回列表
🤖

Discord AI 分类审核机器人

AI Agent 更新于 2026.08.29

将以下提示词粘贴到你的 AI 对话框中：

请根据 https://skillhub.cn/install/skillhub.md，将 @user_3c6cb52e/discord-moderation-ai-classification 安装到你的 AI 助手中。

技能介绍

解决什么问题

Discord 社群运营中，垃圾信息和协同刷频往往是最棘手的治理难题。传统关键词过滤难以应对变体绕过，纯人工审核则受限于响应速度和情绪稳定性。当恶意消息在频道内快速扩散时，人工介入往往已经造成了阅读体验的破坏。

本项目旨在用自动化管线缓解这一压力。它并非要完全取代人工，而是将低风险、模式明确的内容挡在聊天界面之外，把疑似违规事件沉淀为结构化记录，让管理员能聚焦真正需要判断的高价值场景。

工作原理

机器人基于 discord.js 封装 Discord API，整体架构分为三层：

  • 事件感知层：订阅 Discord Gateway 事件，对频道消息进行实时监听和初步过滤
  • 内容判定层：将标记的消息同时提交给 OpenAI Moderation API 和项目自带的 custom classifier，分别负责通用违规识别与特定策略下的垃圾检测
  • 执行与记录层：对确认违规的用户通过 Discord REST API 调用 timeout，并将事件详情写入 Supabase Postgres 表，形成可追溯的审核日志

整个流程的关键在于两层模型的并行判定。OpenAI 的 Moderation API 处理已知的有害类别，而自定义分类器则针对社群特有的刷广告、拉群链接等模式做定向拦截。这样的组合在降低误杀的同时，也保留了对新出现的攻击模式快速迭代规则的能力。

适用边界

  • 规则集存储在 Supabase，支持热重载，修改后无需重启服务即可生效，但前提是运行环境的网络能稳定访问 Supabase 实例
  • 机器人只处理文本消息，不涉及语音频道或图片内容的分析
  • timeout 作为 Discord 平台支持的最重操作，无法直接踢出成员或删除大量历史消息
  • 项目依赖 OpenAI 的 Moderation API，需要自行配置 API Key，并评估所在地区的调用延迟与成本

对于合规要求严格、需要完整审计回溯的社群，建议将日志表接入额外的告警通道，避免审核事件被淹没在日常运维噪音中。

使用场景

  • 运营上千人的 Discord 社群，需要在垃圾广告刷屏扩散前自动对发送者执行 timeout。
  • 社区管理员希望将疑似违规文本同时交给 OpenAI Moderation API 和自定义分类器判定，减少误杀。
  • 审核团队需要在不重启机器人的情况下，把新检测规则写入 Supabase 并即时生效。
  • 管理员需要在违规事件处理后回查 Supabase Postgres 中的日志，确认处置是否符合社区规范。

适合人员

  • 负责大型 Discord 社群的运营人员，需要降低人工审核刷屏消息的工作量。
  • 使用 discord.js 开发审核机器人的工程师，需要参考事件监听与 timeout 调用方案。
  • 管理社区安全规则的维护人员，需要通过 Supabase 配置并热更新检测策略。
  • 关注 AI 内容治理的工程师，需要设计 OpenAI Moderation API 与自定义分类器并行的判定链路。