Strata - Historique des versions

Admin : /* Privilégier la qualité de Qwen à la vitesse */

2026-10-28T09:38:23Z

Privilégier la qualité de Qwen à la vitesse

← Version précédente		Version du 28 octobre 2026 à 09:38
Ligne 93 :		Ligne 93 :
	La valeur <code>"0"</code> est entre guillemets car il s’agit d’une variable d’environnement.		La valeur <code>"0"</code> est entre guillemets car il s’agit d’une variable d’environnement.
	=== Privilégier la qualité de Qwen à la vitesse ===		=== Privilégier la qualité de Qwen à la vitesse ===
			{{Méta bandeau
			\| niveau = information
			\| icône = loupe
			\| texte =
			Concerne la sortie de la version 0.2.7.
			}}
	Certaines optimisations approximatives de Strata privilégient la vitesse au prix de possibles différences de qualité.		Certaines optimisations approximatives de Strata privilégient la vitesse au prix de possibles différences de qualité.

Admin le 28 octobre 2026 à 08:40

2026-10-28T08:40:54Z

← Version précédente		Version du 28 octobre 2026 à 08:40
Ligne 94 :		Ligne 94 :
	=== Privilégier la qualité de Qwen à la vitesse ===		=== Privilégier la qualité de Qwen à la vitesse ===

	Certaines optimisations de Strata~~, dont de nouveaux réglages introduits en version 0.2.7,~~ privilégient la vitesse au prix de possibles différences de qualité.		Certaines optimisations approximatives de Strata privilégient la vitesse au prix de possibles différences de qualité.

	Ajouter à la racine du fichier JSON de configuration du modèle, entre "layer_split" et "vision" :		Ajouter à la racine du fichier JSON de configuration du modèle, entre "layer_split" et "vision" :

	"env": {		"env": {
	~~"STRATA_DEFAULTS": "026",~~
	"STRATA_ROUTE_TAIL_SKIP": "0",		"STRATA_ROUTE_TAIL_SKIP": "0",
	"STRATA_ROUTE_PRIOR": "0",		"STRATA_ROUTE_PRIOR": "0",
Ligne 105 :		Ligne 104 :
	},		},

	* <code>STRATA_DEFAULTS=026</code> : rétablit les réglages automatiques de Qwen utilisés par Strata 0.2.6.
	* <code>STRATA_ROUTE_TAIL_SKIP=0</code> : empêche d’ignorer certains experts faiblement pondérés.		* <code>STRATA_ROUTE_TAIL_SKIP=0</code> : empêche d’ignorer certains experts faiblement pondérés.
	* <code>STRATA_ROUTE_PRIOR=0</code> : empêche de favoriser les experts déjà présents en VRAM.		* <code>STRATA_ROUTE_PRIOR=0</code> : empêche de favoriser les experts déjà présents en VRAM.
	* <code>STRATA_KVA=0</code> : désactive la lecture approximative des longs prompts.		* <code>STRATA_KVA=0</code> : désactive la lecture approximative des longs prompts.

			Ne pas ajouter <code>STRATA_DEFAULTS=026</code> : ce réglage désactiverait également des améliorations sans perte qualitative notable, notamment le ''layer-major prefill'' accélérant fortement la lecture des longs prompts avec deux cartes NVIDIA.

	Redémarrer complètement Strata après la modification.		Redémarrer complètement Strata après la modification.

Admin : /* Privilégier la qualité de Qwen à la vitesse */

2026-10-28T08:07:24Z

Privilégier la qualité de Qwen à la vitesse

← Version précédente		Version du 28 octobre 2026 à 08:07
Ligne 105 :		Ligne 105 :
	},		},

	* STRATA_DEFAULTS=026 : rétablit les réglages automatiques de Qwen utilisés par Strata 0.2.6.		* <code>STRATA_DEFAULTS=026</code> : rétablit les réglages automatiques de Qwen utilisés par Strata 0.2.6.
	* STRATA_ROUTE_TAIL_SKIP=0 : empêche d’ignorer certains experts faiblement pondérés.		* <code>STRATA_ROUTE_TAIL_SKIP=0</code> : empêche d’ignorer certains experts faiblement pondérés.
	* STRATA_ROUTE_PRIOR=0 : empêche de favoriser les experts déjà présents en VRAM.		* <code>STRATA_ROUTE_PRIOR=0</code> : empêche de favoriser les experts déjà présents en VRAM.
	* STRATA_KVA=0 : désactive la lecture approximative des longs prompts.		* <code>STRATA_KVA=0</code> : désactive la lecture approximative des longs prompts.

	Redémarrer complètement Strata après la modification.		Redémarrer complètement Strata après la modification.

Admin : /* Privilégier la qualité de Qwen à la vitesse */

2026-10-28T08:06:47Z

Privilégier la qualité de Qwen à la vitesse

← Version précédente		Version du 28 octobre 2026 à 08:06
Ligne 93 :		Ligne 93 :
	La valeur <code>"0"</code> est entre guillemets car il s’agit d’une variable d’environnement.		La valeur <code>"0"</code> est entre guillemets car il s’agit d’une variable d’environnement.
	=== Privilégier la qualité de Qwen à la vitesse ===		=== Privilégier la qualité de Qwen à la vitesse ===

			Certaines optimisations de Strata, dont de nouveaux réglages introduits en version 0.2.7, privilégient la vitesse au prix de possibles différences de qualité.

	Ajouter à la racine du fichier JSON de configuration du modèle, entre "layer_split" et "vision" :		Ajouter à la racine du fichier JSON de configuration du modèle, entre "layer_split" et "vision" :

Ligne 102 :		Ligne 105 :
	},		},

	* STRATA_DEFAULTS=026 : rétablit les réglages de Strata 0.2.6.		* STRATA_DEFAULTS=026 : rétablit les réglages automatiques de Qwen utilisés par Strata 0.2.6.
	* STRATA_ROUTE_TAIL_SKIP=0 : empêche d’ignorer certains experts.		* STRATA_ROUTE_TAIL_SKIP=0 : empêche d’ignorer certains experts faiblement pondérés.
	* STRATA_ROUTE_PRIOR=0 : empêche de favoriser les experts déjà en VRAM.		* STRATA_ROUTE_PRIOR=0 : empêche de favoriser les experts déjà présents en VRAM.
	* STRATA_KVA=0 : désactive la lecture approximative des longs prompts.		* STRATA_KVA=0 : désactive la lecture approximative des longs prompts.

	Redémarrer complètement Strata après la modification.		Redémarrer complètement Strata après la modification.

Admin : /* Configuration */

2026-10-28T08:03:43Z

Configuration

← Version précédente		Version du 28 octobre 2026 à 08:03
Ligne 92 :		Ligne 92 :

	La valeur <code>"0"</code> est entre guillemets car il s’agit d’une variable d’environnement.		La valeur <code>"0"</code> est entre guillemets car il s’agit d’une variable d’environnement.
			=== Privilégier la qualité de Qwen à la vitesse ===
			Ajouter à la racine du fichier JSON de configuration du modèle, entre "layer_split" et "vision" :

			"env": {
			"STRATA_DEFAULTS": "026",
			"STRATA_ROUTE_TAIL_SKIP": "0",
			"STRATA_ROUTE_PRIOR": "0",
			"STRATA_KVA": "0"
			},

			* STRATA_DEFAULTS=026 : rétablit les réglages de Strata 0.2.6.
			* STRATA_ROUTE_TAIL_SKIP=0 : empêche d’ignorer certains experts.
			* STRATA_ROUTE_PRIOR=0 : empêche de favoriser les experts déjà en VRAM.
			* STRATA_KVA=0 : désactive la lecture approximative des longs prompts.

			Redémarrer complètement Strata après la modification.

Admin : /* Installation */

2026-10-25T06:16:47Z

Installation

← Version précédente		Version du 25 octobre 2026 à 06:16
Ligne 6 :		Ligne 6 :
	# cd Strata		# cd Strata
	# sudo ./setup.sh		# sudo ./setup.sh
			== Mise à jour ==
			# cd /opt/Strata
			# sudo ./update.sh

	== Configuration ==		== Configuration ==

Admin : /* Désactiver le partage CPU du prefill */

2026-10-16T23:17:37Z

Désactiver le partage CPU du prefill

← Version précédente		Version du 16 octobre 2026 à 23:17
Ligne 71 :		Ligne 71 :

	=== Désactiver le partage CPU du prefill ===		=== Désactiver le partage CPU du prefill ===
			{{Méta bandeau
			\| niveau = information
			\| icône = loupe
			\| texte =
			La documentation indique que ce partage est activé par défaut sur certaines configurations à un seul GPU, mais reste désactivé par défaut en layer-split multi-GPU.
			}}
	Sur les processeurs ne disposant pas d’AVX-512, il peut être intéressant de désactiver la participation du CPU au prefill afin d’éviter certaines dégradations de performances.		Sur les processeurs ne disposant pas d’AVX-512, il peut être intéressant de désactiver la participation du CPU au prefill afin d’éviter certaines dégradations de performances.

Admin : /* Désactiver le partage CPU du prefill */

2026-10-16T23:12:23Z

Désactiver le partage CPU du prefill

← Version précédente		Version du 16 octobre 2026 à 23:12
Ligne 50 :		Ligne 50 :

	Cette option peut notamment être utile lorsque le processeur est fortement sollicité par les workers CPU. Les threads auxiliaires, comme certains threads CUDA, de préchargement ou d’adaptation, sont alors déplacés vers des CPU logiques distincts lorsque cela est possible.		Cette option peut notamment être utile lorsque le processeur est fortement sollicité par les workers CPU. Les threads auxiliaires, comme certains threads CUDA, de préchargement ou d’adaptation, sont alors déplacés vers des CPU logiques distincts lorsque cela est possible.

			=== Réglage vision ===
			* Vision sur CPU :
			"vision": {
			"exe": "/opt/Strata/engine/strata-vision",
			"mmproj": "/opt/Strata-data/models/mmproj-Qwen3.8-Flash-Next-BF16.gguf",
			"model": "/opt/Strata-data/models/IQ3_S/Qwen3.8-Flash-Next-GSQ-RCO-IQ3_S-00001-of-00002.gguf",
			"gpu": <font color = green>false</font>,
			"max_tokens": 1024
			}
			* Vision sur GPU auxiliaire :
			"vision": {
			"exe": "/opt/Strata/engine/strata-vision",
			"mmproj": "/opt/Strata-data/models/mmproj-Qwen3.8-Flash-Next-BF16.gguf",
			"model": "/opt/Strata-data/models/IQ3_S/Qwen3.8-Flash-Next-GSQ-RCO-IQ3_S-00001-of-00002.gguf",
			"gpu": true,
			<font color = green>"cuda_device": 0,</font>
			"max_tokens": 1024
			}

	=== Désactiver le partage CPU du prefill ===		=== Désactiver le partage CPU du prefill ===

Admin : /* CPU auxiliaires */

2026-10-15T11:17:27Z

CPU auxiliaires

← Version précédente		Version du 15 octobre 2026 à 11:17
Ligne 50 :		Ligne 50 :

	Cette option peut notamment être utile lorsque le processeur est fortement sollicité par les workers CPU. Les threads auxiliaires, comme certains threads CUDA, de préchargement ou d’adaptation, sont alors déplacés vers des CPU logiques distincts lorsque cela est possible.		Cette option peut notamment être utile lorsque le processeur est fortement sollicité par les workers CPU. Les threads auxiliaires, comme certains threads CUDA, de préchargement ou d’adaptation, sont alors déplacés vers des CPU logiques distincts lorsque cela est possible.

			=== Désactiver le partage CPU du prefill ===

			Sur les processeurs ne disposant pas d’AVX-512, il peut être intéressant de désactiver la participation du CPU au prefill afin d’éviter certaines dégradations de performances.

			Ajouter à la racine du fichier JSON :

			"env": {
			"STRATA_PREFILL_CPU_SHARE": "0"
			},

			Cette variable désactive le partage du calcul du prefill avec le CPU. Elle peut être utile sur les anciens Xeon AVX2 lorsque le pool CPU perturbe ensuite les performances de décodage.

			La valeur <code>"0"</code> est entre guillemets car il s’agit d’une variable d’environnement.

Admin : /* Nombre de workers CPU */

2026-10-15T11:13:12Z

Nombre de workers CPU

← Version précédente		Version du 15 octobre 2026 à 11:13
Ligne 39 :		Ligne 39 :

	Sur un processeur 12 cœurs / 24 threads, 10 workers accompagnés du thread hôte de Strata utilisent 11 cœurs physiques, ce qui laisse un cœur physique libre pour les threads auxiliaires, CUDA et le système.		Sur un processeur 12 cœurs / 24 threads, 10 workers accompagnés du thread hôte de Strata utilisent 11 cœurs physiques, ce qui laisse un cœur physique libre pour les threads auxiliaires, CUDA et le système.

			=== CPU auxiliaires ===

			Le paramètre <code>--aux-cpus</code> permet à Strata de réserver automatiquement certains processeurs logiques aux threads auxiliaires, afin qu’ils ne viennent pas perturber le pool chargé du calcul des experts.

			Ajouter dans la section <code>args</code> :

			"--aux-cpus",
			"auto",

			Cette option peut notamment être utile lorsque le processeur est fortement sollicité par les workers CPU. Les threads auxiliaires, comme certains threads CUDA, de préchargement ou d’adaptation, sont alors déplacés vers des CPU logiques distincts lorsque cela est possible.

Strata - Historique des versions

Admin : /* Privilégier la qualité de Qwen à la vitesse */

Admin le 28 octobre 2026 à 08:40

Admin : /* Privilégier la qualité de Qwen à la vitesse */

Admin : /* Privilégier la qualité de Qwen à la vitesse */

Admin : /* Configuration */

Admin : /* Installation */

Admin : /* Désactiver le partage CPU du prefill */

Admin : /* Désactiver le partage CPU du prefill */

Admin : /* CPU auxiliaires */

Admin : /* Nombre de workers CPU */

Admin : /* Privilégier la qualité de Qwen à la vitesse */

Admin : /* Privilégier la qualité de Qwen à la vitesse */

Admin : /* Privilégier la qualité de Qwen à la vitesse */

Admin : /* Configuration */

Admin : /* Installation */

Admin : /* Désactiver le partage CPU du prefill */

Admin : /* Désactiver le partage CPU du prefill */

Admin : /* CPU auxiliaires */

Admin : /* Nombre de workers CPU */