数字人多模态交互
将以下提示词粘贴到你的 AI 对话框中:
请根据 https://skillhub.cn/install/skillhub.md,安装 @user_638e256a/digital-human。
技能介绍
要解决什么问题
做数字人播报或陪伴类对话时,常见痛点是链路被拆成好几段:先 TTS 出音频,再换平台生成口型视频,会议录音还要单独转写。国内团队若依赖海外数字人 API,往往还要处理代理与鉴权不稳定。数字人多模态交互把「合成 → 虚拟人播报 → 对话 → 转写 → 再回数字人视频」收成一条可编排路径;v3.0 起数字人侧对接科大讯飞虚拟人,国内可直接访问,使用 HMAC-SHA256 签名。
技能如何工作
命令面大致分五块(资料中共 21 条):
- TTS 与本地视频:
tts-speak支持 EdgeTTS / 阿里 / 火山;tts-video用 ffmpeg 把语音与背景图合成视频。 - 数字人播报(讯飞真实 API):
avatar-list/avatar-voices查看内置 11 个中国面孔形象与 9 个中文发音人;avatar-speak文本驱动播报,通过stream_url拉流;avatar-status结束会话;avatar-scene可配新闻 / 直播 / 教育 / 会议等场景。 - 陪伴咨询:
companion-chat等多条命令覆盖模式切换、用户画像、重置;文档描述为含情感分析的对话层,并带companion-crisis危机信号检测与干预。 - 语音处理:
voice-transcribe(Whisper)、voice-minutes、voice-to-avatar等,支持「录音 → 纪要 → 数字人视频」全链路。 - 报告:
emotion-report、history用于情绪变化与操作回溯。
典型播报流:选形象 → avatar-speak 启动会话 → 拉流播放 → avatar-status 收尾。典型会议补发流:voice-transcribe → voice-minutes → voice-to-avatar。
边界与注意点
- 讯飞侧需在控制台开通「AI虚拟人技术」,凭证通过环境变量或
--app-id/--api-key/--api-secret传入;按调用量计费,新用户有体验额度。 - 陪伴场景文档列出高考心理疏导、独居老人、情感陪伴等 6 种模式,但仍是 Agent 编排能力,不能替代持证心理咨询或医疗诊断。
- 安全机制包括危机关键词干预、对话情感分析、凭证不落日志;部署时仍需自行评估合规与隐私留存策略。
使用场景
- 产品内训录了整场会议,需用 Whisper 转写、提炼纪要,再经 `voice-to-avatar` 生成数字人讲解给未到场同事
- 资讯栏目每天要出口播稿,需从 11 个讯飞形象里选人,用 `avatar-speak` 文本驱动播报并通过拉流发布
- 员工在职场心理模式下倾诉加班与绩效压力,需 `companion-chat` 回应并在危机词出现时走 `companion-crisis` 干预
- 社区养老项目要为独居老人做定期语音陪伴,需切换陪伴模式、维护用户画像并查看 `emotion-report`
适合人员
- 负责内训与知识沉淀的企业培训专员,常要把会议录音变成可传播的数字人讲解视频
- 在国内部署、不愿依赖海外数字人 API 的短视频或资讯编辑,需要稳定讯飞形象与中文发音人列表
- 搭建情感陪伴或心理辅助 Demo 的产品经理,要模式切换、情感分析与危机干预链路可演示
- 智慧养老或社区运营人员,需要为独居老人配置陪伴对话、健康提醒与对话历史回溯