本地(离线)设置教程
概述
本地(离线)模式让您可以在设备上完全本地运行 ASR(自动语音识别)、翻译和 TTS(文字转语音)。无需 API 密钥,无需互联网连接,数据不会离开您的设备。所有处理均通过 WebAssembly 和 WebGPU 在本地完成。
无需 API 密钥或互联网
隐私优先 — 所有音频和文本都保留在您的设备上。下载模型后,本地(离线)模式可完全离线工作。您的对话永远不会离开您的设备。
1选择"本地(离线)"作为提供商
打开 Sokuji 并导航到设置面板。从提供商下拉菜单中选择 "本地(离线)" 作为 AI 提供商。
2下载 ASR 模型
为您的源语言选择 ASR 模型。Sokuji 提供 42 个离线/流式模型,由 sherpa-onnx WASM 和 WebGPU(Cohere Transcribe、Voxtral Mini、Whisper)驱动,覆盖 99+ 种语言。模型大小从轻量级(约 5MB)到高精度(约 2GB+)不等。推荐使用 Cohere Transcribe 或 Voxtral Mini 4B Realtime 以获得最佳精度和速度。
3下载翻译模型
选择翻译语言对。选择 TranslateGemma 获得最佳质量和速度,选择 Opus-MT 进行快速 CPU 翻译,或选择 Qwen LLM 通过 WebGPU 进行更高质量的多语言翻译。
4下载 TTS 模型
下载 TTS 模型以获得语音输出。提供 136 个模型,覆盖 52 种语言,由 Piper、Coqui、Mimic3 和 Matcha 引擎驱动。
5开始翻译
点击 开始会话 按钮。无需互联网连接 — 翻译完全在您的设备上实时进行。
附加信息
什么是本地(离线)模式?
本地(离线)是完全在设备上运行的 AI 翻译管道,无需任何云服务即可运行 ASR、翻译和 TTS:
- 完全隐私 — 所有音频和文本处理都在设备上完成
- 初次下载模型后即可离线工作
- 无需 API 密钥、账户或订阅
- 由 WebAssembly (WASM) 和 WebGPU 驱动,提供接近原生的性能
- 免费使用,无使用限制
可用模型
本地(离线)模式为翻译管道的每个阶段提供丰富的模型选择:
- ASR:42 个模型,包括 Cohere Transcribe、Voxtral Mini 4B Realtime、Whisper、SenseVoice、Moonshine、NeMo 和 Zipformer — 覆盖 99+ 种语言
- 翻译:74 个 Opus-MT 语言对用于快速 CPU 翻译,以及通过 WebGPU 运行的 TranslateGemma 和 Qwen LLM 支持多语言翻译
- TTS:136 个模型,覆盖 52 种语言,使用 Piper、Coqui、Mimic3 和 Matcha 引擎
硬件要求
- CPU (WASM):适用于任何现代浏览器 — 无需特殊硬件
- WebGPU:可选 GPU 加速,用于 Cohere Transcribe、Voxtral Mini、Whisper ASR、TranslateGemma 和 Qwen 翻译模型 — 使用独立 GPU 可显著提升速度
- 建议:4GB+ 内存以便舒适地加载模型
- 存储空间:模型大小从 5MB 到 200MB+ 不等,取决于精度级别
- 需要现代浏览器:Chrome 113+、Edge 113+ 或 Firefox 120+ 以支持 WebGPU
模型目录
完整的本地模型列表单独成页,列出每个模型的大小、运行方式、来源和许可证。 查看所有本地模型及其许可证
TTS 设置
- 语速 — 控制合成语音的播放速度。调节语速滑块可以让输出语音变快或变慢,以满足您的需求。
- 说话人 ID — 控制合成语音的音色。许多模型支持多个说话人 ID,每个 ID 对应不同的音色。部分多说话人模型包含不同性别的音色,您可以通过选择不同的说话人 ID 来切换男声或女声。
故障排除
常见问题
模型下载失败: 请检查初次下载时的互联网连接。模型缓存在本地 IndexedDB 中,后续使用可离线工作。如果下载损坏,请尝试清除浏览器数据。
ASR 无法识别语音: 确保您为源语言选择了正确的 ASR 模型。尝试使用更大的模型以提高准确度。检查麦克风是否正常工作且已授予权限。
翻译质量低: Opus-MT 模型针对速度而非质量进行了优化。如果您的设备支持 WebGPU,请尝试 TranslateGemma 或 Qwen LLM 模型以获得更好的效果。确保选择了正确的语言对。
WebGPU 不可用: WebGPU 需要兼容的浏览器和 GPU。可回退到基于 WASM 的模型(sherpa-onnx、Opus-MT),这些模型在任何现代浏览器上都可以运行,无需 GPU。
性能优化建议
- 在可用时使用 WebGPU 模型以显著加快处理速度
- 关闭其他浏览器标签页以释放内存用于模型加载
- 在低端设备上或优先考虑速度时选择较小的模型
- WASM 模型(sherpa-onnx、Opus-MT)兼容性更好但比 WebGPU 替代方案更慢
- 监控浏览器内存使用 — 大型模型可能需要 2GB+ 的浏览器内存
需要更多帮助?请访问我们的 GitHub 仓库获取社区支持、模型兼容性指南和本地(离线)功能的最新更新。