Llama-swap - Historique des versions

Admin : /* Charger un ou plusieurs modèles au démarrage */

2026-10-23T21:32:45Z

Charger un ou plusieurs modèles au démarrage

← Version précédente		Version du 23 octobre 2026 à 21:32
Ligne 97 :		Ligne 97 :
	=== Charger un ou plusieurs modèles au démarrage ===		=== Charger un ou plusieurs modèles au démarrage ===
	Ajouter à la configuration :		Ajouter à la configuration :
			<font color = grey>...</font>
	hooks:		hooks:
	on_startup:		on_startup:

Admin : /* Charger modèle(s) au démarrage */

2026-10-23T21:32:24Z

Charger modèle(s) au démarrage

← Version précédente		Version du 23 octobre 2026 à 21:32
Ligne 95 :		Ligne 95 :

	Plusieurs modèles peuvent être actifs simultanément si la configuration de routage l'autorise.		Plusieurs modèles peuvent être actifs simultanément si la configuration de routage l'autorise.
	=== Charger ~~modèle(s)~~ au démarrage ===		=== Charger un ou plusieurs modèles au démarrage ===
	~~<font color = grey>...</font>~~		Ajouter à la configuration :
	hooks:		hooks:
	on_startup:		on_startup:
	preload:		preload:
	- <font color = green>Qwen3.8-Flash-Next</font>		- <font color = green>Qwen3.8-Flash-Next</font>
	==== Groupes ====		==== Groupes ====

Admin : /* Charger modèle(s) au démarrage */

2026-10-23T21:31:34Z

Charger modèle(s) au démarrage

← Version précédente		Version du 23 octobre 2026 à 21:31
Ligne 100 :		Ligne 100 :
	on_startup:		on_startup:
	preload:		preload:
	- <font color = ~~grey~~>...</font>		- <font color = green>Qwen3.8-Flash-Next</font>
	==== Groupes ====		==== Groupes ====

Admin : /* Configuration */

2026-10-23T21:29:52Z

Configuration

← Version précédente		Version du 23 octobre 2026 à 21:29
Ligne 95 :		Ligne 95 :

	Plusieurs modèles peuvent être actifs simultanément si la configuration de routage l'autorise.		Plusieurs modèles peuvent être actifs simultanément si la configuration de routage l'autorise.
			=== Charger modèle(s) au démarrage ===
			<font color = grey>...</font>
			hooks:
			on_startup:
			preload:
			- <font color = grey>...</font>
	==== Groupes ====		==== Groupes ====

Admin : /* Strata Qwen3.8-Flash-Next-GSQ-RCO-IQ3_S */

2026-10-22T20:43:30Z

Strata Qwen3.8-Flash-Next-GSQ-RCO-IQ3_S

← Version précédente		Version du 22 octobre 2026 à 20:43
Ligne 717 :		Ligne 717 :
	--port ${PORT}		--port ${PORT}

	proxy: "http://127.0.0.1:${PORT}"		proxy: "<nowiki>http://</nowiki>127.0.0.1:${PORT}"
	checkEndpoint: /health		checkEndpoint: /health

Admin : /* Exemples de modèles */

2026-10-22T20:43:15Z

Exemples de modèles

@@ Ligne 699 : / Ligne 699 : @@
         --mmproj /opt/models/Muse-Glimmer-30B-GGUF/UD-Q5_K_L/mmproj-Muse-Glimmer-30B-Q8_0.gguf
         --no-mmproj-offload
 === En test ===
 ==== [[Beellama.cpp#Qwen3.8-27B_Context_155648_Kvarn6/Kvarn6_-_tail_1024_-_MTP_+_n-gam_(2x_12_Go_de_VRAM)|Qwen3.8-27B-GGUF Context 155648 Kvarn6/Kvarn6 (2x 12 Go de VRAM)]] Spécialiste codeur lent ====

Admin : /* Strata unsloth-ud-iq3_s */

2026-10-22T20:42:51Z

Strata unsloth-ud-iq3_s

@@ Ligne 700 : / Ligne 700 : @@
         --no-mmproj-offload
 === En test ===
 ==== [[Beellama.cpp#Qwen3.8-27B_Context_155648_Kvarn6/Kvarn6_-_tail_1024_-_MTP_+_n-gam_(2x_12_Go_de_VRAM)|Qwen3.8-27B-GGUF Context 155648 Kvarn6/Kvarn6 (2x 12 Go de VRAM)]] Spécialiste codeur lent ====

Admin : /* Strata unsloth-ud-iq4_xs */

2026-10-22T20:41:15Z

Strata unsloth-ud-iq4_xs

← Version précédente		Version du 22 octobre 2026 à 20:41
Ligne 700 :		Ligne 700 :
	--no-mmproj-offload		--no-mmproj-offload
	=== En test ===		=== En test ===
	==== [[Strata\|Strata]] unsloth-ud-~~iq4_xs~~ ====		==== [[Strata\|Strata]] unsloth-ud-iq3_s ====
	"Qwen3.8-Flash-Next":		"Qwen3.8-Flash-Next":
	name: "Qwen3.8-Flash-Next"		name: "Qwen3.8-Flash-Next"
Ligne 713 :		Ligne 713 :

	cmd: \|		cmd: \|
	/bin/bash -lc 'cd /opt/Strata && exec env STRATA_DECODE_TIMING=1 STRATA_VERIFY_PROFILE=1 .venv/bin/python -m serve.server --engine strata --config /opt/Strata/strata-~~unsloth-ud-iq4_xs~~.json --port ${PORT}'		/bin/bash -lc 'cd /opt/Strata && exec env STRATA_DECODE_TIMING=1 STRATA_VERIFY_PROFILE=1 .venv/bin/python -m serve.server --engine strata --config /opt/Strata/strata-iq3_s.json --port ${PORT}'
	--engine strata		--engine strata
	--config /opt/Strata/strata-~~unsloth-ud-iq4_xs~~.json		--config /opt/Strata/strata-iq3_s.json
	--port ${PORT}		--port ${PORT}

	proxy: "~~<nowiki>~~http://~~</nowiki>~~127.0.0.1:${PORT}"		proxy: "http://127.0.0.1:${PORT}"
	checkEndpoint: /health		checkEndpoint: /health

Admin : /* Qwen3.8-27B-GGUF Context 155648 Kvarn6/Kvarn6 (2x 12 Go de VRAM) Spécialiste codeur lent */

2026-10-15T13:32:20Z

Qwen3.8-27B-GGUF Context 155648 Kvarn6/Kvarn6 (2x 12 Go de VRAM) Spécialiste codeur lent

← Version précédente		Version du 15 octobre 2026 à 13:32
Ligne 744 :		Ligne 744 :
	-m /opt/models/Qwen3.8-27B/UD-Q4_K_XL/Qwen3.8-27B-UD-Q4_K_XL.gguf		-m /opt/models/Qwen3.8-27B/UD-Q4_K_XL/Qwen3.8-27B-UD-Q4_K_XL.gguf
	--mmproj /opt/models/Qwen3.8-27B/UD-Q4_K_XL/mmproj-BF16.gguf		--mmproj /opt/models/Qwen3.8-27B/UD-Q4_K_XL/mmproj-BF16.gguf
	--no-mmproj-~~offload~~		--mmproj-offload
			--mmproj-device CUDA0
	--image-min-tokens 1024		--image-min-tokens 1024
	-dev CUDA1,CUDA2		-dev CUDA1,CUDA2

Admin : /* Qwen3.8-27B-GGUF Context 155648 Kvarn6/Kvarn6 (2x 12 Go de VRAM) Spécialiste codeur lent */

2026-10-15T13:26:26Z

Qwen3.8-27B-GGUF Context 155648 Kvarn6/Kvarn6 (2x 12 Go de VRAM) Spécialiste codeur lent

← Version précédente		Version du 15 octobre 2026 à 13:26
Ligne 725 :		Ligne 725 :
	# sudo hf download unsloth/Qwen3.8-27B-GGUF --include "UD-Q4_K_XL.gguf" --include "mmproj-BF16.gguf" --local-dir /opt/models/Qwen3.8-27B/UD-Q4_K_XL		# sudo hf download unsloth/Qwen3.8-27B-GGUF --include "UD-Q4_K_XL.gguf" --include "mmproj-BF16.gguf" --local-dir /opt/models/Qwen3.8-27B/UD-Q4_K_XL
	# sudo hf download froggeric/Qwen-Fixed-Chat-Templates --include "chat_template.jinja" --local-dir /opt/models/Qwen-Fixed-Chat-Templates		# sudo hf download froggeric/Qwen-Fixed-Chat-Templates --include "chat_template.jinja" --local-dir /opt/models/Qwen-Fixed-Chat-Templates
			# sudo hf download incoai/Qwen3.8-27B-DFlash2-GGUF --include "Q4" --local-dir /opt/models/Qwen3.8-27B-Dflash2

	<font color = grey>...		<font color = grey>...
Ligne 745 :		Ligne 746 :
	--no-mmproj-offload		--no-mmproj-offload
	--image-min-tokens 1024		--image-min-tokens 1024
			-dev CUDA1,CUDA2
	-ngl 999		-ngl 999
	-sm tensor		-sm tensor
	-ts 1/1		-ts 1,1
	-t 4		-t 4
	-tb 4		-tb 4
Ligne 759 :		Ligne 761 :
	-ctv kvarn6		-ctv kvarn6
	--kv-tail-tokens 1024		--kv-tail-tokens 1024
	--spec-type ngram-mod,draft-~~mtp~~		--spec-type ngram-mod,draft-dflash
	--spec-ngram-mod-n-match 24		--spec-ngram-mod-n-match 24
	--spec-ngram-mod-n-min 12		--spec-ngram-mod-n-min 12
	--spec-ngram-mod-n-max 48		--spec-ngram-mod-n-max 48
	--spec-draft-n-max 3		--spec-draft-model /opt/models/Qwen3.8-27B-Dflash2/Qwen3.8-27B-DFlash2-Q4_K_M.gguf
			--spec-draft-device CUDA0
			--spec-draft-ngl all
			--spec-draft-n-max 7
	--spec-draft-n-min 0		--spec-draft-n-min 0
	~~--spec-draft-p-min 0.75~~
	--reasoning on		--reasoning on
	--reasoning-preserve		--reasoning-preserve

Llama-swap - Historique des versions

Admin : /* Charger un ou plusieurs modèles au démarrage */

Admin : /* Charger modèle(s) au démarrage */

Admin : /* Charger modèle(s) au démarrage */

Admin : /* Configuration */

Admin : /* Strata Qwen3.8-Flash-Next-GSQ-RCO-IQ3_S */

Admin : /* Exemples de modèles */

Admin : /* Strata unsloth-ud-iq3_s */

Admin : /* Strata unsloth-ud-iq4_xs */

Admin : /* Qwen3.8-27B-GGUF Context 155648 Kvarn6/Kvarn6 (2x 12 Go de VRAM) Spécialiste codeur lent */

Admin : /* Qwen3.8-27B-GGUF Context 155648 Kvarn6/Kvarn6 (2x 12 Go de VRAM) Spécialiste codeur lent */

Admin : /* Charger un ou plusieurs modèles au démarrage */

Admin : /* Charger modèle(s) au démarrage */

Admin : /* Charger modèle(s) au démarrage */

Admin : /* Configuration */

Admin : /* Strata Qwen3.8-Flash-Next-GSQ-RCO-IQ3_S */

Admin : /* Exemples de modèles */

Admin : /* Strata unsloth-ud-iq3_s */

Admin : /* Strata unsloth-ud-iq4_xs */

Admin : /* Qwen3.8-27B-GGUF Context 155648 Kvarn6/Kvarn6 (2x 12 Go de VRAM) Spécialiste codeur lent */

Admin : /* Qwen3.8-27B-GGUF Context 155648 Kvarn6/Kvarn6 (2x 12 Go de VRAM) Spécialiste codeur lent */