Назад к провайдерам ИИ

Руководство по настройке провайдера «Бесплатный» (на устройстве)

Обзор

Провайдер «Бесплатный» запускает ASR (автоматическое распознавание речи), перевод и TTS (синтез речи) на вашем устройстве. Без API-ключа и без учётной записи; после загрузки моделей распознавание и перевод выполняются на вашем компьютере с помощью WebAssembly и WebGPU, и ваше аудио никогда его не покидает. Лишь некоторые языки озвучиваются через Edge TTS онлайн, поэтому для озвучивания перевода на эти языки нужно подключение к сети.

Не требуется API-ключ или Интернет

Конфиденциальность прежде всего — ваша речь распознаётся и переводится на вашем устройстве. После загрузки моделей распознавание и перевод работают полностью автономно; подключение к сети нужно только для озвучивания на языках, которые озвучивает Edge TTS.

1Выберите «Бесплатный» как провайдера

Откройте Sokuji и перейдите в панель настроек. Выберите «Бесплатный» в качестве провайдера ИИ в выпадающем списке провайдеров.

2Скачайте модель ASR

Выберите модель ASR для вашего исходного языка. Sokuji предлагает 42 автономных/потоковых модели на базе sherpa-onnx WASM и WebGPU (Cohere Transcribe, Voxtral Mini, Whisper), поддерживающих более 99 языков. Размер моделей варьируется от лёгких (~5 МБ) до высокоточных (~2 ГБ+). Рекомендуем Cohere Transcribe или Voxtral Mini 4B Realtime для лучшей точности и скорости.

3Скачайте модель перевода

Выберите языковую пару для перевода. Выберите TranslateGemma для лучшего качества и скорости, 74 языковых пары Opus-MT для быстрого перевода на CPU или Qwen LLM через WebGPU для более качественного многоязычного перевода.

4Скачайте модель TTS

Скачайте модель TTS для голосового вывода. Доступно 136 моделей на 52 языках, работающих на движках Piper, Coqui, Mimic3 и Matcha. Если в блоке Речь включён Перевод, который слышу я (режим «Собеседник» или «Оба»), перевод собеседника тоже зачитывается вам вслух: у этого направления свой слот TTS со своей моделью и своим голосом. Каждое направление хранит свой голос.

5Начните переводить

Нажмите кнопку Начать сессию. Распознавание и перевод выполняются на вашем устройстве в реальном времени; если выбран голос Edge TTS, для озвучивания перевода нужно подключение к сети.

Дополнительная информация

Что такое провайдер «Бесплатный»?

«Бесплатный» — это полностью работающий на устройстве конвейер перевода ИИ, который выполняет ASR, перевод и TTS без каких-либо облачных сервисов:

  • Полная конфиденциальность — вся обработка аудио и текста выполняется на вашем устройстве
  • Работает автономно после первоначальной загрузки моделей
  • Не требуются API-ключи, учётные записи или подписки
  • Работает на WebAssembly (WASM) и WebGPU с производительностью, близкой к нативной
  • Бесплатное использование без ограничений

Доступные модели

Провайдер «Бесплатный» поддерживает широкий спектр моделей для каждого этапа конвейера перевода:

  • ASR: 42 модели, включая Cohere Transcribe, Voxtral Mini 4B Realtime, Whisper, SenseVoice, Moonshine, NeMo и Zipformer — поддержка более 99 языков
  • Перевод: 74 языковых пары Opus-MT для быстрого перевода на CPU, а также TranslateGemma и Qwen LLM через WebGPU для многоязычной поддержки
  • TTS: 136 моделей на 52 языках с использованием движков Piper, Coqui, Mimic3 и Matcha

Настройки VAD (определение речи)

Когда «Режим речи» в настройках установлен в «Авто», нажмите «Настройки VAD» рядом с ним, чтобы подстроить определение речи на устройстве. В режимах «Нажми и говори» и «Нажми и переведи» вы сами определяете, где начинается и заканчивается каждое предложение:

  • Макс. длит. речи: как долго может длиться одно высказывание, прежде чем оно будет разделено (10–40 с, по умолчанию 30 с); некоторые модели делят раньше — на самом длинном отрезке, который они распознают правильно
  • Запас перед речью: сохраняет немного аудио непосредственно перед тем, как была обнаружена речь (до 2 с, по умолчанию 0,8 с), чтобы первый звук предложения не обрезался; показывается только для моделей, которые это поддерживают
  • Умный (Smart Turn): вместо того чтобы всегда выжидать фиксированную тишину, проверяет, закончили ли вы говорить, и завершает предложение примерно через 0,4 с после того, как вы замолчали; пауза посреди предложения оставляет его слушать. При включении один раз скачивается модель размером 31 МБ; работает с моделями распознавания речи на WebGPU
  • Сбросить: возвращает эти настройки к значениям по умолчанию

Требования к оборудованию

  • CPU (WASM): Работает в любом современном браузере — специальное оборудование не требуется
  • WebGPU: Опциональное ускорение GPU для моделей Cohere Transcribe, Voxtral Mini, Whisper ASR, TranslateGemma и перевода Qwen — значительно быстрее с выделенным GPU
  • Рекомендуется: 4 ГБ+ ОЗУ для комфортной загрузки моделей
  • Хранилище: Размер моделей от 5 МБ до 200+ МБ в зависимости от уровня точности
  • Требуется современный браузер: Chrome 113+, Edge 113+ или Firefox 120+ для поддержки WebGPU

Каталог моделей

Полный список локальных моделей с размером, местом запуска, происхождением и лицензией каждой вынесен на отдельную страницу. Все локальные модели и их лицензии

Настройки TTS

  • Скорость речи — Контролирует скорость воспроизведения синтезированной речи. Отрегулируйте ползунок скорости, чтобы сделать вывод быстрее или медленнее по вашему предпочтению.
  • ID говорящего — Контролирует тембр голоса синтезированной речи. Многие модели поддерживают несколько ID говорящих, каждый с разным голосом. Некоторые мультиспикерные модели включают голоса разных полов, поэтому вы можете выбрать мужской или женский голос, выбирая разные ID говорящих. ID говорящего или голос Edge TTS хранится для каждого направления отдельно: выбор в слоте TTS одного направления не меняет другое направление.

Устранение неполадок

Распространённые проблемы

Голос сбросился после обновления: Начиная с Sokuji 0.44.0 каждое направление хранит свой голос. Голос, выбранный в прежней версии, был общим для обоих направлений, поэтому после обновления каждое направление один раз возвращается к голосу по умолчанию. Выберите голос заново в слоте TTS каждого направления.

Перевод, который слышу я, только текстом: Если появилось предупреждение «Перевод, который слышу я, показывается только текстом: не хватает памяти, чтобы загрузить ещё и модель синтеза речи собеседника.», модели обоих направлений не помещаются в память вместе, поэтому перевод собеседника начинается только текстом, а ваш по-прежнему озвучивается. Его кнопка «Настройки» открывает слот TTS этого направления: выберите модель поменьше или Edge TTS, который не занимает локальную память.

Edge TTS перестал говорить в расширении браузера: Edge TTS теперь синтезирует речь на api.msedgeservices.com. Когда расширение обновляется до Sokuji 0.44.0, Chrome или Edge просит разрешить доступ к этому сайту и держит расширение отключённым, пока вы не согласитесь: откройте страницу расширений браузера и примите новое разрешение. Настольному приложению ничего не нужно.

Не удаётся скачать модель: Проверьте подключение к Интернету для первоначальной загрузки. Модели кешируются локально в IndexedDB, поэтому последующие использования работают автономно. Попробуйте очистить данные браузера, если загрузки повреждены.

ASR не распознаёт речь: Убедитесь, что вы выбрали правильную модель ASR для вашего исходного языка. Попробуйте более крупную модель для лучшей точности. Проверьте, что микрофон работает и разрешения предоставлены.

Низкое качество перевода: Модели Opus-MT оптимизированы для скорости, а не качества. Для лучших результатов попробуйте модели TranslateGemma или Qwen LLM, если ваше устройство поддерживает WebGPU. Убедитесь, что выбрана правильная языковая пара.

WebGPU недоступен: WebGPU требует совместимого браузера и GPU. Переключитесь на модели на основе WASM (sherpa-onnx, Opus-MT), которые работают в любом современном браузере без требований к GPU.

Советы по производительности

  1. Используйте модели WebGPU, когда они доступны, для значительно более быстрой обработки
  2. Закройте другие вкладки браузера, чтобы освободить память для загрузки моделей
  3. Выбирайте модели меньшего размера для устройств с низкой производительностью или когда скорость важнее
  4. Модели WASM (sherpa-onnx, Opus-MT) более совместимы, но медленнее, чем альтернативы WebGPU
  5. Следите за использованием памяти браузера — крупные модели могут потребовать 2 ГБ+ памяти браузера

Нужна дополнительная помощь? Посетите наш репозиторий GitHub для получения поддержки сообщества, руководств по совместимости моделей и последних обновлений провайдера «Бесплатный».

GitHub Repository