인식, 번역, 음성
전 과정이 로컬에서 돕니다. ASR이 목소리를 텍스트로, MT가 번역하고, TTS가 말합니다. 어느 단계도 네트워크가 필요 없습니다.
Sokuji는 기기 위에서 도는 인식·번역·음성 합성을 무료로 함께 제공합니다. 네트워크가 끊겼을 때를 위한 것이 아니라 일급 경로이고, 언젠가 기본값이 되리라 봅니다.
전 과정이 로컬에서 돕니다. ASR이 목소리를 텍스트로, MT가 번역하고, TTS가 말합니다. 어느 단계도 네트워크가 필요 없습니다.
Sokuji가 GPU를 감지해 그에 맞춰 만들어진 엔진 패키지를 내려받고, 어떤 것을 골랐고 크기가 얼마인지 알려 줍니다.
등록할 것도, 쓸 돈도 없습니다. 비용은 당신의 하드웨어가 전부입니다.
과장해서 파느니, 분명히 말해 두겠습니다.
대형 호스팅 모델이 정확도와 지연에서 여전히 앞섭니다. 중요한 통화라면 아마 그쪽을 고르실 겁니다. 온디바이스 출력도 아주 많은 대화에는 충분하고, 무엇보다 당신 말고는 아무도 끼지 않는 유일한 구성입니다.
모델은 계속 작아지고, 런타임은 계속 좋아지고, 평범한 노트북의 가속기도 계속 빨라집니다. 이 격차가 오래갈 거라 보지 않고, 그것이 좁혀지기를 기다렸다가 로컬을 첫 선택으로 삼을 생각도 없습니다. AI를 쓰겠다는 이유만으로 자기 대화를 거대 AI 기업에 넘겨야 할 사람은 없습니다.
셋 중 답에 단서가 필요 없는 것은 이 하나뿐입니다.