
尽管语音转录与生成技术进展显著,但构建能同时实现倾听、推理、交互及处理复杂工作流的端到端语音智能体仍具挑战。为此,Mistral正式推出Voxtral 3系列,包含先进的“语音转文本”(STT)和“文本转语音”(TTS)模型,以及一个将倾听、思考、工具调用和说话整合至单一实时流处理管道的语音智能体SDK。
Voxtral 3旨在为客服中心、虚拟助手及车载副驾等场景提供自然对话体验。该系列支持数十种语言、富有表现力的语音输出、复杂逻辑推理,并能深度集成自有工具与数据,使智能体能精准解读细微意图,在连接系统间执行多步骤操作。
遵循Mistral一贯的主权部署理念,Voxtral 3既可通过位于欧盟的主机API获取,也支持在自有基础设施上私有化部署,确保组织对音频处理地点、数据流向及对话记录保留拥有完全控制权。
核心亮点
- 50+语言精准转录:STT模型Voxtral Small Transcribe 3在多语言转录、说话人分离及上下文偏向方面处于领先地位,并能检测话轮结束时机以实现即时响应。
- 自适应自然语音:TTS模型Voxtral Mini TTS 3引入新音色,可根据语境动态调整情感、语速和重音,覆盖35+种语言和50+种方言。
- 实时类人智能交互:新版SDK将倾听、推理、工具调用和发声整合为实时体验,支持在通话或网络对话中检索信息并与企业系统交互。
- Pro Voice专业适配:仅需30分钟音频即可重现说话人的独特特征、情感范围及风格,支持跨语言应用,弥补基础语音克隆在专业场景的不足。
- 数据主权可控:支持欧盟API托管或本地部署,敏感对话可保留在自有环境中,自主决定是否留存音频数据。
听力卓越:50+语言支持,准确率业界领先
Voxtral Transcribe 3在转录、说话人分离及上下文偏向能力上取得重大突破。支持语言扩展至50种,涵盖24种欧盟官方语言及多种亚洲和印度小语种。
其中,Small版本在英语、法语和西班牙语的说话人分离及多语言转录上表现优异,性能超越Whisper、Scribe v2和Gemini 3.5 Transcribe。Mini变体拥有40亿参数,以每分钟0.0035美元的成本实现快速精准转录。
两款模型均支持上下文偏向功能,允许通过提供关键术语优化转录结果,提高专业词汇召回率,无需微调即可适配特定领域生产环境。
专为智能体打造的Voxtral Realtime Transcribe 3,在35+种语言中实现低于500毫秒的高质量实时转录。其原生支持“话轮结束”预测,结合声学与语义信息准确判断用户发言终点,有效降低延迟并减少误打断。
表达自如:情感化语音与品牌声音定制
Voxtral Mini TTS 3.0提供批处理和实时模式,在35+种语言和50+种方言的表达性及指令遵循上达到业界领先水平。其每百万字符13美元的定价,低于OpenAI TTS-1、Deepgram、ElevenLabs Flash及Gemini Flash等竞品。
该模型能隐式理解上下文语义,生成跨越多样情感的自然语音。新增功能包括基于30+分钟采样的语音克隆、自定义提示指令遵循(IF)、上下文TTS及词汇库支持。通过显式控制emotion(情感)、pacing(语速)和emphasis(重音)变量,确保部署时的语音可靠性。
Voxtral TTS原生解析提示文本语境以确定情感风格,无需额外指令或语音提示,即可生成韵律、节奏自然的语音内容。