跳到主要内容

语音与 TTS

Hermes Agent 在所有消息平台上支持文本转语音(TTS,Text-to-Speech)输出和语音消息转录。

Nous 订阅用户

如果你拥有付费的 Nous Portal 订阅,可以通过 Tool Gateway 使用 OpenAI TTS,无需单独的 OpenAI API 密钥。运行 hermes modelhermes tools 来启用。

文本转语音

使用八种提供商将文本转换为语音:

提供商质量成本API 密钥
Edge TTS(默认)良好免费无需
ElevenLabs优秀付费ELEVENLABS_API_KEY
OpenAI TTS良好付费VOICE_TOOLS_OPENAI_KEY
MiniMax TTS优秀付费MINIMAX_API_KEY
Mistral (Voxtral TTS)优秀付费MISTRAL_API_KEY
Google Gemini TTS优秀免费额度GEMINI_API_KEY
xAI TTS优秀付费XAI_API_KEY
NeuTTS良好免费无需

平台投递

平台投递方式格式
Telegram语音气泡(内联播放)Opus .ogg
Discord语音气泡(Opus/OGG),回退到文件附件Opus/MP3
WhatsApp音频文件附件MP3
CLI保存到 ~/.hermes/audio_cache/MP3

配置

# 在 ~/.hermes/config.yaml 中
tts:
provider: "edge" # "edge" | "elevenlabs" | "openai" | "minimax" | "mistral" | "gemini" | "xai" | "neutts"
speed: 1.0 # 全局速度倍率(提供商特定设置会覆盖此值)
edge:
voice: "en-US-AriaNeural" # 322 种声音,74 种语言
speed: 1.0 # 转换为速率百分比 (+/-%)
elevenlabs:
voice_id: "pNInz6obpgDQGcFmaJgB" # Adam
model_id: "eleven_multilingual_v2"
openai:
model: "gpt-4o-mini-tts"
voice: "alloy" # alloy, echo, fable, onyx, nova, shimmer
base_url: "https://api.openai.com/v1" # 覆盖为兼容 OpenAI 的 TTS 端点
speed: 1.0 # 0.25 - 4.0
minimax:
model: "speech-2.8-hd" # speech-2.8-hd(默认),speech-2.8-turbo
voice_id: "English_Graceful_Lady" # 参见 https://platform.minimax.io/faq/system-voice-id
speed: 1 # 0.5 - 2.0
vol: 1 # 0 - 10
pitch: 0 # -12 - 12
mistral:
model: "voxtral-mini-tts-2603"
voice_id: "c69964a6-ab8b-4f8a-9465-ec0925096ec8" # Paul - Neutral(默认)
gemini:
model: "gemini-2.5-flash-preview-tts" # 或 gemini-2.5-pro-preview-tts
voice: "Kore" # 30 种预置声音:Zephyr, Puck, Kore, Enceladus, Gacrux 等
xai:
voice_id: "eve" # xAI TTS 声音(参见 https://docs.x.ai/docs/api-reference#tts)
language: "en" # ISO 639-1 语言代码
sample_rate: 24000 # 22050 / 24000(默认) / 44100 / 48000
bit_rate: 128000 # MP3 比特率;仅在 codec=mp3 时适用
# base_url: "https://api.x.ai/v1" # 通过 XAI_BASE_URL 环境变量覆盖
neutts:
ref_audio: ''
ref_text: ''
model: neuphonic/neutts-air-q4-gguf
device: cpu

速度控制:全局 tts.speed 值默认应用于所有提供商。每个提供商可以通过自己的 speed 设置覆盖(例如 tts.openai.speed: 1.5)。提供商特定速度优先于全局值。默认为 1.0(正常速度)。

Telegram 语音气泡与 ffmpeg

Telegram 语音气泡需要 Opus/OGG 音频格式:

  • OpenAI、ElevenLabs 和 Mistral 原生生成 Opus — 无需额外设置
  • Edge TTS(默认)输出 MP3,需要 ffmpeg 进行转换
  • MiniMax TTS 输出 MP3,需要 ffmpeg 转换为 Telegram 语音气泡
  • Google Gemini TTS 输出原始 PCM,使用 ffmpeg 直接编码为 Telegram 语音气泡的 Opus 格式
  • xAI TTS 输出 MP3,需要 ffmpeg 转换为 Telegram 语音气泡
  • NeuTTS 输出 WAV,也需要 ffmpeg 转换为 Telegram 语音气泡
# Ubuntu/Debian
sudo apt install ffmpeg

# macOS
brew install ffmpeg

# Fedora
sudo dnf install ffmpeg

如果没有 ffmpeg,Edge TTS、MiniMax TTS 和 NeuTTS 的音频会作为普通音频文件发送(可播放,但显示为矩形播放器而非语音气泡)。

提示

如果你想在不安装 ffmpeg 的情况下使用语音气泡,请切换到 OpenAI、ElevenLabs 或 Mistral 提供商。

语音消息转录 (STT)

在 Telegram、Discord、WhatsApp、Slack 或 Signal 上发送的语音消息会自动转录并作为文本注入到对话中。Agent 将转录内容视为普通文本。

提供商质量成本API 密钥
Local Whisper(默认)良好免费无需
Groq Whisper API良好–最佳免费额度GROQ_API_KEY
OpenAI Whisper API良好–最佳付费VOICE_TOOLS_OPENAI_KEYOPENAI_API_KEY
零配置

安装 faster-whisper 后,本地转录即可开箱即用。如果不可用,Hermes 还可以使用常见安装位置(如 /opt/homebrew/bin)中的本地 whisper CLI 或通过 HERMES_LOCAL_STT_COMMAND 设置的自定义命令。

配置

# 在 ~/.hermes/config.yaml 中
stt:
provider: "local" # "local" | "groq" | "openai" | "mistral"
local:
model: "base" # tiny, base, small, medium, large-v3
openai:
model: "whisper-1" # whisper-1, gpt-4o-mini-transcribe, gpt-4o-transcribe
mistral:
model: "voxtral-mini-latest" # voxtral-mini-latest, voxtral-mini-2602

提供商详情

本地 (faster-whisper) — 通过 faster-whisper 在本地运行 Whisper。默认使用 CPU,如有 GPU 可用则使用 GPU。模型大小:

模型大小速度质量
tiny~75 MB最快基础
base~150 MB良好(默认)
small~500 MB中等较好
medium~1.5 GB较慢很好
large-v3~3 GB最慢最佳

Groq API — 需要 GROQ_API_KEY。当你想要免费的托管 STT(Speech-to-Text,语音转文本)选项时,这是一个很好的云端备用方案。

OpenAI API — 优先接受 VOICE_TOOLS_OPENAI_KEY,回退到 OPENAI_API_KEY。支持 whisper-1gpt-4o-mini-transcribegpt-4o-transcribe

Mistral API (Voxtral Transcribe) — 需要 MISTRAL_API_KEY。使用 Mistral 的 Voxtral Transcribe 模型。支持 13 种语言、说话人分离和词级时间戳。使用 pip install hermes-agent[mistral] 安装。

自定义本地 CLI 备用 — 如果你想让 Hermes 直接调用本地转录命令,请设置 HERMES_LOCAL_STT_COMMAND。命令模板支持 {input_path}{output_dir}{language}{model} 占位符。

回退行为

如果你配置的提供商不可用,Hermes 会自动回退:

  • 本地 faster-whisper 不可用 → 在尝试云提供商之前,先尝试本地 whisper CLI 或 HERMES_LOCAL_STT_COMMAND
  • Groq 密钥未设置 → 回退到本地转录,然后是 OpenAI
  • OpenAI 密钥未设置 → 回退到本地转录,然后是 Groq
  • Mistral 密钥/SDK 未设置 → 在自动检测中跳过;回退到下一个可用提供商
  • 全部不可用 → 语音消息会原样传递,并附带准确的提示信息

📝 本文由 AI 翻译,如有疑问请参考英文原版