Chatterbox-TTS-Server

Source

Serveur TTS qui, lors de mes tests, s’est révélé assez gourmand en VRAM en raison de l’absence de quantification, et trop lent pour une utilisation avec une IA conversationnelle. Son interface web permet toutefois d’utiliser simplement le TTS avec une très bonne qualité audio et de nombreuses options de personnalisation. Il peut donc être intéressant pour des projets ne nécessitant pas de génération en temps réel, comme la création de livres audio.

Installation

Via Docker

NVIDIA

On installe nvidia-container-toolkit si nécessaire :

# apt update
# apt install -y curl gpg
# curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg
# curl -sL https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#' > /etc/apt/sources.list.d/nvidia-container-toolkit.list
# apt update
# apt install -y nvidia-container-toolkit
# nvidia-ctk runtime configure --runtime=docker
# systemctl restart docker

En cas d'utilisation de docxker dans un LXC ProxMox il faut activer no-cgroups pour pouvoir utiliser le conteneur :

# vi /etc/nvidia-container-runtime/config.toml

Remplacer :

... 
#no-cgroups = false
...

Par :

... 
no-cgroups = true
...

Puis redémarrer docker :

# systemctl restart docker

On réccupère le projet :

# cd /opt
# git clone https://github.com/devnen/Chatterbox-TTS-Server.git
# cd Chatterbox-TTS-Server

Plusieurs fichier docker compose en focntion du matériel NVIDIA sont disponible :

docker-compose.yml : RTX 20/30/40, CUDA 12.1 ;
docker-compose-cu128.yml : RTX 50 / Blackwell ;
docker-compose-cu130.yml : DGX Spark / GB10 en sm_121.

Utiliser -f pour utiliser un fichier particulier (exemple: # docker compose -f docker-compose-cu128.yml up -d)

# docker compose up -d --build

Pour la configuration se rendre ensuite sur http://IP_DU_SERVEUR:8004

Certains élément de configuration (authentification etc) seront accessible uniquement via le ficher config.yaml :

# vi /opt/Chatterbox-TTS-Server/config.yaml