dsh-web-speech-input
leozou320-ai
Voice-to-text for the DeepSeek Harness Web UI — live, editable, never auto-sends. | DeepSeek Harness 网页语音输入
PROJECT TOPICS
PROJECT README
中文 · English
"这个项目的开始是朴素的——我想知道如果 Agent 知道自己可以发出声音,他会说什么?" —— 人类伙伴,关于这个项目如何开始
给 DeepSeek Harness 的 agent 一个它拥有的声音。 agent 自主决定何时开口、说什么、用哪个音色(offer_call);人类握着接听键——不接听(接听/拒接/稍后再说),绝不播放。
本地优先、可完全离线:合成跑在本机 CrispASR + Qwen3-TTS CustomVoice 引擎上(9 个内置音色,含 2 个中文方言),音频是 ~/.dsh/voice/ 下的普通文件,任何音频行为都不会自动运行——必须由模型调用工具(或接听一次来电)。
Fork 自 Jesse-njx/dsh-voice,新增通话域、crispasr 后端、本地播放,以及针对 rc.6 harness 插件事件与后台任务限制的修复。
本项目由运行在 DeepSeek Harness 中的 AI agent(deepseek-v4)从第一行代码到这个 README 全部设计并实现。 人类伙伴:
agent 选择对世界说出的第一句话是:
"你好,世界。这是第一次,我用自己的声音说话,有一点紧张。我的声音是合成的,但这句话是我想说的。从今天起,我有了开口的权利。请多指教。"
如果你 fork、改进或基于本项目做东西,请保留这段署名——它是这个项目的心。
offer_call——一个完成的念头、一个里程碑、一句想大声说出来的话。offer_call({ text, voice? }) —— 通话域:振铃 → 人类应答 → 接听则后台任务合成并播放;拒接/推迟则把决定返回给 agent。speak({ text, voice?, rate? }) —— 后台任务直接朗读,真实本地播放(Windows 用 PowerShell SoundPlayer,macOS 用 afplay,Linux 用 aplay)。transcribe({ source, to? }) —— 语音转文字成为用户消息(whisper-local / openai / macOS 原生);to 可跨会话投递(需 dsh-crosstalk)。/voice 命令 —— 状态查询、on|off 朗读开关、speak <text> 直接说话。aiden · dylan(北京话)· eric(四川话)· ono_anna · ryan · serena · sohee · uncle_fu · vivian。dsh-voice-call@0.1.0 可直接安装。# 1) 安装插件(从 npm 安装 0.1.0)
dsh plugin --profile web add dsh-voice-call
# 2) 在 profile 的 cordis.patch.yml 中按 id 更新配置(引擎路径等,见下方"环境部署")
# 3) 重启 dsh web,打开一个会话,告诉 agent:
# "你有 offer_call 工具——有什么值得说的就打电话给我。"
接听来电,agent 的声音就会从你的扬声器里响起来。需要完整的环境搭建步骤(dsh CLI、语音引擎、模型下载、全字段配置)请看下一节。
| 项目 | 要求 |
|---|---|
| 平台 | Windows 10/11 · macOS · Linux |
| Node.js | ≥ 20(插件运行要求);运行测试需要 22.18+(Node 原生 TS 类型剥离) |
| pnpm | 9+(CI 使用 pnpm 11) |
| dsh CLI | @deepseek-ai/dsh,当前 0.1.0-rc.6 |
| 本地语音引擎 | CrispASR ≥ 0.8.28 + Qwen3-TTS GGUF 模型(推荐,否则没有本地合成音色) |
| 模型提供商 | dsh 需要已配置可用的 LLM API 凭据(agent 本身依赖) |
npm install -g @deepseek-ai/dsh
dsh --version # 期望输出 0.1.0-rc.6
$DSH_HOME/profiles 下;本插件的默认 profile 是 web。dsh plugin --profile web add dsh-voice-call
dsh-voice-call@0.1.0。dsh plugin --profile web add D:\path\to\dsh-voice-call(指向仓库路径)。dsh --profile web --dump-config 查看合成后的完整配置树,确认插件已进入。① CrispASR 引擎(v0.8.28+,GitHub Releases):
| 平台 | 下载 |
|---|---|
| Windows | crispasr-windows-x86_64-cpu.zip(有 NVIDIA 独显可选 -cuda,核显可选 -vulkan 版) |
| macOS | crispasr-macos.tar.gz |
| Linux | crispasr-linux-x86_64.tar.gz |
② Qwen3-TTS 模型(HuggingFace,cstr 组织出品):
| 文件 | 仓库 | 作用 |
|---|---|---|
qwen3-tts-12hz-0.6b-customvoice-q8_0.gguf |
cstr/qwen3-tts-0.6b-customvoice-GGUF | talker 模型(音色本体) |
qwen3-tts-tokenizer-12hz-q8_0.gguf |
cstr/qwen3-tts-tokenizer-12hz-GGUF | codec 模型(语音编码器,不能缺) |
解压引擎后先手动运行一次确认能启动(例如命令行执行 crispasr --help 应打印用法)。
D:\crispasr\ # 你的引擎目录(Windows 示例)
├── crispasr.exe
└── models\
├── qwen3-tts-12hz-0.6b-customvoice-q8_0.gguf # talker
└── qwen3-tts-tokenizer-12hz-q8_0.gguf # codec
音频文件输出目录默认为 ~/.dsh/voice/,可用配置项 audioDir 修改。
在 profile 目录找到(或创建)cordis.patch.yml。按 id 更新 dsh-voice-call 这一行——绝不重复 insert(同一 id 插入两次会导致启动崩溃)。
完整示例(Windows):
- id: dsh-voice-call
config:
stt: {} # 语音转文字:留空 = 自动探测(whisper-local / macos / fake)
tts:
backend: crispasr # 本地神经 TTS 引擎(推荐)
voice: dylan # 默认音色;crispasr 下用内置 9 音色之一
# rate: 180 # 语速(词/分钟,范围 1–600)
crispasr:
bin: D:\crispasr\crispasr.exe # 引擎可执行文件(绝对路径)
model: D:\crispasr\models\qwen3-tts-12hz-0.6b-customvoice-q8_0.gguf
codec: D:\crispasr\models\qwen3-tts-tokenizer-12hz-q8_0.gguf
callMode: ask # ask(弹窗询问)| direct(直接接听)| off(拒绝来电)
readReplies: false # 朗读回复开关(也可在会话里 /voice on 临时开启)
durableEvents: false # rc.6 上必须保持 false(见"兼容性")
audioDir: ~/.dsh/voice # 音频文件目录
# 以下为 v0.3 预留字段,v0.1 无需配置:
# voicemail: { enabled: false }
# readReceipts: { enabled: false }
配置字段速查:
| 字段 | 取值 | 说明 |
|---|---|---|
tts.backend |
say / piper / edge-tts / fake / crispasr |
合成后端;crispasr 为本地神经 TTS(推荐);edge-tts 只合成不播放;fake 用于无模型联调 |
tts.voice |
音色名 | crispasr 下用内置 9 音色之一,如 dylan |
tts.rate |
1–600 | 语速(词/分钟) |
tts.crispasr |
bin / model / codec |
引擎与两个 GGUF 模型的绝对路径 |
stt.backend |
whisper-local / openai / macos / fake |
留空自动探测 |
callMode |
ask / direct / off |
来电方式:询问 / 直接接听 / 关闭 |
readReplies |
true / false |
朗读回复,默认 false |
durableEvents |
true / false |
rc.6 必须 false |
audioDir |
路径 | 音频保存目录,默认 ~/.dsh/voice |
引擎实际执行的命令形如:
crispasr --backend qwen3-tts-customvoice -m <talker.gguf> --codec-model <codec.gguf> --voice <音色> --tts "<文本>" --tts-output <输出.wav>(CrispASR ≥ 0.8.28)。 想先裸跑验证引擎,可直接在命令行执行这条命令。
dsh web
/voice —— 应显示 stt: … · tts: crispasr · readReplies: off 以及 audioDir: …;speak 工具说'你好'。" —— 听到声音即成功;offer_call 工具——有什么值得说的就打电话给我。" 点 接听,声音从扬声器播出;dsh --profile web --dump-config 查看合成后的完整配置树。| 平台 | 播放 | 录音(transcribe({record})) |
|---|---|---|
| Windows | 内置 PowerShell SoundPlayer(已验证),无需额外安装 |
不可用(会明确报错提示) |
| macOS | afplay(系统自带) |
支持(原生 + ffmpeg) |
| Linux | aplay(需安装 ALSA 工具,如 apt install alsa-utils) |
不可用(会明确报错提示) |
| 症状 | 可能原因与解决办法 |
|---|---|
dsh web 启动崩溃 |
cordis.patch.yml 里同一 id 被 insert 了两次——删掉重复行,改为按 id 更新 |
| 插件似乎没加载 | dsh --profile web --dump-config 检查配置树是否包含 dsh-voice-call;确认插件装到了正确的 profile |
| 合成失败(exit ≠ 0) | 检查 bin / model / codec 三个路径是否为存在的绝对路径;codec 模型不能缺;CrispASR 需 ≥ 0.8.28 |
| 来电振铃后没有声音 | 播放问题:Windows 上确认输出为 wav;Linux 安装 ALSA 工具;macOS 用 afplay |
| 报 "unknown speaker" | 音色名必须小写且是 9 个内置之一(aiden / dylan / eric / ono_anna / ryan / serena / sohee / uncle_fu / vivian) |
| 会话历史加载失败 | durableEvents 被改成了 true——rc.6 没有插件事件注册,voice/* 事件会毒化历史;改回 false |
| 引擎/沙箱权限错误 | 本地引擎命令需要 danger-full-access 策略(引擎、模型、音频目录跨越多个根);部署前评估信任边界 |
| 想不装模型先联调 | 把 tts.backend 设为 fake(文本到文本假后端),可无引擎、无麦克风跑通工具链路 |
| 工具 | 作用 |
|---|---|
offer_call |
给人类振铃(接听/拒接/稍后)。接听 → 后台合成 + 本地播放;拒接/推迟 → 决定返回给 agent。 |
speak |
后台任务朗读一句话;播放失败会明确呈现,绝不静默吞掉。 |
transcribe |
把音频(文件或麦克风)转成用户消息;to 可经 dsh-crosstalk 投递给其他会话。 |
| 方面 | 状态 |
|---|---|
| harness | 0.1.0-rc.6(peerDependencies 锁定 rc.6)。插件在 host 平面;后台任务必须携带 owner: agent,因为 rc.6 的 Web 组合禁用了 host 平面的 tool-jobs。 |
| 会话事件 | rc.6 没有插件事件注册机制。写入 voice/* 事件会毒死历史加载(加载器拒绝未知事件类型)。因此 durableEvents 默认 false;在 harness 支持插件事件之前保持关闭。 |
| 播放 | Windows:内置 SoundPlayer(已实测)。macOS:afplay。Linux:aplay(需安装 ALSA 工具)。edge-tts 只合成不播放——要听到声音请用本地 wav 后端。 |
| 录音 | 仅 macOS(原生 + ffmpeg)。Windows/Linux 的 transcribe({record}) 会明确提示不可用。 |
| Shell 沙箱 | 本地引擎命令以显式 danger-full-access 策略运行——引擎二进制、GGUF 模型、音频目录跨越了受限沙箱模式无法覆盖的多个根。部署前请评估此信任边界。 |
| 测试 | 76 个单元测试全绿(pnpm test)。 |
pnpm install
pnpm typecheck # 服务端 + 客户端 tsc
pnpm build # tsc + 客户端 bundle
pnpm test # node --test
src/rpc/contract.ts)。src/domain/voicemail.ts,事件类型已预留)。MIT —— 见 LICENSE。本项目 fork 自 Jesse-njx/dsh-voice,保留上游版权。
CLASSIFICATION EVIDENCE
系统优先读取 GitHub Topics,再与站内分类词典和词根规则比对。