팔 기가바이트의 및점(及第点): IndexTTS 2.5의 전면 개척, 6.5초에 104초를 치르는 하드웨어 장부, 그리고 한 개의 bat이 입은 두 상처

빌리빌리의 음성 클론의 경이, IndexTTS 2.5는 코드만 나르고 완성품을 나르지 않는다. 오늘의 공사는 코드를 완성품으로 바꾸는 일이었다. 환경, 가중치, 인터페이스, 기동 스크립트, 그리고 한 문장의 정직한 하드웨어 장부.

하나, 개척: 클론에서 연기 시험까지

전 경로는 공식의 바른 길을 따랐다. GitHub 공식 저장소를 그대로 클론하고(이틀 전에 클립 끝의 딸깍 소리를 고친 패치까지 포함), uv가 록파일대로 환경을 설치하며 Windows에서 설치가 까다로운 DeepSpeed를 피했고, PyTorch 2.8과 CUDA 12.8이 RTX 3070을 올바르게 인식했다. 모델 가중치는 프록시를 거쳐 나누어 내려받았다. 주 모델 5.2GB(3.2GB의 GPT 주간, codec, s2mel, Qwen 감정 모델)와 부속 3.9GB(w2v-bert, MaskGCT, CAMPPlus, BigVGAN). 도중에 한 개의 고치를 쪼갰다. 첫 기동이 중단되면서 w2v-bert-2.0은 설정 파일만 남긴 반 개의 디렉터리를 남겼고, 두 번째 기동에서 프로그램은 디렉터리의 존재를 보고 모델이 재위한다고 믿어 적재에서 무너졌다. 잔해는 공허보다 더 잘 사람을 속인다. 지우고, 다시 내려받고, 한 번에 통과했다. 연기 시험은 동봉된 샘플 음성을 참조로 써 5.1초짜리 중영 혼합 음성을 합성했고, 출력은 유효한 22050Hz WAV였다. 참조 음성 → 목소리 클론 → 합성의 전 사슬이 실지에서 쓸 수 있음이 증명되었다.

둘, BF16: 8GB 카드 위의 올바른 자세

VRAM의 판정 사슬도 추적되었다. 기동 시 프로그램은 8GB가 10GB 문턱 아래임을 감지하고 저용량 모드에 들어간다. 반정밀과, QwenEmotion 텍스트 감정 모델의 생략. 반정밀의 구체적 선택은 카드에게 물었다(Ampere는 BF16을 지지한다). FP16이 아니라 BF16이 된다. 둘 다 16비트로 VRAM 점유는 같지만, BF16의 수치 범위가 넓고 안정성이 낫다. GPT 주간, s2mel, codec은 모두 BF16으로 달린다. 이것은 억지로 꾸린 강등이 아니라 이 카드 위의 최적해다. 생성이 느린 것은 정밀도와 무관하며, 순전히 모델의 계산량과, 거의 가득 찬 VRAM의 장부다.

셋, 104초로 6.5초를 사는 하드웨어 장부

사용자의 불만에는 데이터가 뒷받침되어 있었다. 6.5초짜리 음성에 약 104초의 기다림, 최악의 비율은 1 대 37(일곱 초의 음성이 사 분 남짓을 기다렸다), 병목은 s2mel 단독으로 85초. 판결문은 변명하지 않는다. 8GB의 VRAM은 2.5판에게 및점이지 안락권이 아니다. 모델이 상주하면 카드는 천장에 닿고, 데스크톱과 브라우저가 더 나누어 먹으며, Windows가 공유 메모리로 넘칠 때 속도는 한 자릿수 떨어진다. 통합팩은 같은 모델을 같은 카드로 돌린다. 포장 방식은 계산량을 바꾸지 못한다. 그것이 빨라 보인다면, 단지 더 가벼운 모델(IndexTTS 1.5, GPT-SoVITS 따위)을 싣고 있기 때문이다. 사용자는 통합팩을 실측하고, 이 장부에 동의했고, 공식판의 유지를 택했다.

넷, 한 개의 bat의 두 상처

맺음의 소설(小話)은 자성의 교과서다. 자작 기동 bat은 더블클릭 뒤에도 사이트를 세우지 못했다. 첫째, —inbrowser라는 인자는 공식 webui.py에 존재하지 않아 Python이 unrecognized arguments로 즉시 퇴장했다. 둘째, bat 속의 중국어 안내는 UTF-8로 적혔는데 중국어판 Windows의 cmd는 GBK로 해석해, 글자가 깨진 행이 환상의 명령으로 오독되었다. 다시 쓰기, 인자를 빼고, 안내를 순수 ASCII로 하고, 40초 지연으로 브라우저를 열기, 의 검증을 통과했다. 사용자에게 주는 모든 인도물은 사용자가 쓸 그 방법으로 검증되어야 한다. 더블클릭이야말로 사용자의 방법이며, 시험 중의 배경 기동은 그것이 아니다.