Le Wiki de Lug - Modifications récentes [fr]

Hermes

Admin — Tue, 30 Jun 2026 14:55:42 GMT

SearXNG

IA MCP

Admin — Tue, 30 Jun 2026 14:18:07 GMT

@@ Ligne 5 : / Ligne 5 : @@
 Ces plateformes recensent des serveurs MCP prêts à l’emploi permettant d’étendre les capacités d’une IA (web, fichiers, APIs, etc.).
 = [https://mcpservers.org/fr/servers/ihor-sokoliuk/mcp-searxng SearXNG] =
 Un serveur MCP qui intègre l’API SearXNG, permettant aux assistants IA d’effectuer des recherches sur le web.
@@ Ligne 34 : / Ligne 29 : @@
         - SEARXNG_URL=http://<font color = blue>IP_SEARXNG</font>:<font color = green>8080</font>
         - MCP_HTTP_PORT=<font color = green>3000</font>
         - USER_AGENT=Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/122.0.0.0 Safari/537.36
         - URL_READER_USER_AGENT=Mozilla/5.0 (iPhone; CPU iPhone OS 17_0 like Mac OS X) AppleWebKit/605.1.15 (KHTML, like Gecko) Version/17.0 Mobile/15E148 Safari/604.1
@@ Ligne 44 : / Ligne 40 : @@
 * Test :
   # curl http://<font color=blue>IP_SERVEUR</font>:<font color=green>3000</font>/health

Hermes

Admin — Tue, 30 Jun 2026 14:02:36 GMT

Cas particulier : bundle certifi du venv Hermes

← Version précédente		Version du 30 juin 2026 à 14:02
Ligne 144 :		Ligne 144 :

	Attention : cette modification peut être écrasée lors d’une mise à jour de Hermes, du venv Python ou du paquet certifi.		Attention : cette modification peut être écrasée lors d’une mise à jour de Hermes, du venv Python ou du paquet certifi.
			===== Automatiser le remplacement du certificat du venv =====
			On édite le service Hermes :
			# systemctl edit hermes-gateway.service

			Ajouter dans la zone d’édition (partie supérieure du fichier) :
			<font color = grey>...</font>
			<font color = grey>### Anything between here and the comment below will become the contents of the drop-in file</font>

			<font color = blue>[Service]
			ExecStartPre=/bin/cp /etc/ssl/certs/ca-certificates.crt /root/.hermes/hermes-agent/venv/lib/python<font color = green>3.11</font>/site-packages/certifi/cacert.pem</font>

			<font color = grey>### Edits below this comment will be discarded</font>
			<font color = grey>...</font>
			Puis recharger systemd et redémarrer le service :
			# systemctl daemon-reload
			# systemctl restart hermes-gateway.service

	=== Éditer le prompt système ===		=== Éditer le prompt système ===

Accueil

Admin — Fri, 26 Jun 2026 20:09:53 GMT

← Version précédente		Version du 26 juin 2026 à 20:09
Ligne 100 :		Ligne 100 :
	<div class="accueil-tile-title">Proxy inverse Nginx</div>		<div class="accueil-tile-title">Proxy inverse Nginx</div>
	<div class="accueil-tile-desc">HTTPS, redirections et accès sécurisé aux services.</div>		<div class="accueil-tile-desc">HTTPS, redirections et accès sécurisé aux services.</div>
			</div>
			</div>

			<div class="accueil-tile accueil-tile-caddy">
			[[Fichier:Tuile caddy.webp\|link=caddy_ReverseProxy\|class=accueil-tile-img]]
			<div class="accueil-tile-content">
			<div class="accueil-tile-title">Proxy inverse Caddy</div>
			<div class="accueil-tile-desc">HTTPS automatique, configuration simple et accès sécurisé aux services.</div>
	</div>		</div>
	</div>		</div>

Fichier:Tuile caddy.webp

Admin — Fri, 26 Jun 2026 20:07:41 GMT

Admin a téléversé Fichier:Tuile caddy.webp Tuile caddy..

Nouvelle page

== Description ==
Tuile caddy..

Hermes

Admin — Fri, 26 Jun 2026 18:09:59 GMT

Activer le serveur API

← Version précédente		Version du 26 juin 2026 à 18:09
(Une version intermédiaire par le même utilisateur non affichée)
Ligne 75 :		Ligne 75 :
	\| niveau = grave		\| niveau = grave
	\| icône = grave		\| icône = grave
	\| texte = Si API_SERVER_HOST=0.0.0.0 : ~~L’API~~ est accessible sur le réseau. Limiter l’accès via firewall ou réseau privé recommandé.		\| texte = Si <code>API_SERVER_HOST=0.0.0.0</code> : l’API est accessible sur le réseau. Définir impérativement une clé <code>API_SERVER_KEY</code> longue et aléatoire, au minimum 16 caractères, idéalement générée avec <code>openssl rand -hex 32</code>. Limiter aussi l’accès via firewall ou réseau privé recommandé.
	}}		}}
	On relance le service :		On relance le service :
	# systemctl restart hermes-gateway.service		# systemctl restart hermes-gateway.service
Ligne 85 :		Ligne 85 :
	Pour vérifier le modèle exposé :		Pour vérifier le modèle exposé :
	# curl http://<font color = blue>IP_HERMES</font>:8642/v1/models -H "Authorization: Bearer <font color = blue>maclefsecrete</font>"		# curl http://<font color = blue>IP_HERMES</font>:8642/v1/models -H "Authorization: Bearer <font color = blue>maclefsecrete</font>"

	=== Retarder le démarrage de Hermes au boot pour laisser le temps aux autres services de se lancer ===		=== Retarder le démarrage de Hermes au boot pour laisser le temps aux autres services de se lancer ===

Ligne 132 :		Ligne 133 :
	# systemctl restart hermes-gateway.service		# systemctl restart hermes-gateway.service
	==== Cas particulier : bundle certifi du venv Hermes ====		==== Cas particulier : bundle certifi du venv Hermes ====
	Dans certains cas, le runtime Python embarqué par Hermes peut continuer à utiliser le bundle interne de ~~<code>~~certifi~~</code>~~ au lieu du magasin système.		Dans certains cas, le runtime Python embarqué par Hermes peut continuer à utiliser le bundle interne de certifi au lieu du magasin système.
	~~On peut alors ajouter la CA locale directement au fichier <code>cacert~~.~~pem<~~/~~code>~~ du venv Hermes.
			Si curl valide déjà le certificat avec /etc/ssl/certs/ca-certificates.crt mais que Hermes/OpenAI/httpx échoue avec CERTIFICATE_VERIFY_FAILED, on peut remplacer le bundle certifi du venv Hermes par le bundle système.

	Sauvegarder le bundle actuel :		Sauvegarder le bundle actuel :
	# cp /root/.hermes/hermes-agent/venv/lib/python3.11/site-packages/certifi/cacert.pem /root/.hermes/hermes-agent/venv/lib/python3.11/site-packages/certifi/cacert.pem.bak		# cp /root/.hermes/hermes-agent/venv/lib/python3.11/site-packages/certifi/cacert.pem /root/.hermes/hermes-agent/venv/lib/python3.11/site-packages/certifi/cacert.pem.bak

	~~Ajouter les certificats locaux~~ :		Remplacer par le bundle système :
	# ~~cat~~ /~~usr~~/~~local~~/~~share~~/ca-certificates/*.crt >> /root/.hermes/hermes-agent/venv/lib/python3.11/site-packages/certifi/cacert.pem		# cp /etc/ssl/certs/ca-certificates.crt /root/.hermes/hermes-agent/venv/lib/python3.11/site-packages/certifi/cacert.pem

	Attention : cette modification peut être écrasée lors d’une mise à jour de Hermes, du venv Python ou du paquet ~~<code>~~certifi~~</code>~~.		Attention : cette modification peut être écrasée lors d’une mise à jour de Hermes, du venv Python ou du paquet certifi.

	=== Éditer le prompt système ===		=== Éditer le prompt système ===

Ik llama.cpp

Admin — Fri, 26 Jun 2026 16:22:47 GMT

Support de SSL

Voir les modifications

Llama.cpp

Admin — Mon, 22 Jun 2026 15:27:08 GMT

Benchmark multi-GPU

← Version précédente		Version du 22 juin 2026 à 15:27
(7 versions intermédiaires par le même utilisateur non affichées)
Ligne 371 :		Ligne 371 :
	! Description		! Description
	\|-		\|-
	\| `-ngl` ou `--gpu-layers`		\| <code>-ngl</code> ou <code>--gpu-layers</code>
	\| Nombre de couches du modèle à envoyer sur GPU.		\| Nombre de couches du modèle à envoyer sur GPU.
	\|-		\|-
	\| `--split-mode`		\| <code>--split-mode</code>
	\| Méthode de répartition du modèle entre plusieurs GPU.		\| Méthode de répartition du modèle entre plusieurs GPU.
	\|-		\|-
	\| `--tensor-split`		\| <code>--tensor-split</code>
	\| Répartition manuelle de la charge entre les GPU.		\| Répartition manuelle de la charge entre les GPU.
	\|-		\|-
	\| `--main-gpu`		\| <code>--main-gpu</code>
	\| GPU principal utilisé notamment pour certaines allocations et opérations.		\| GPU principal utilisé notamment pour certaines allocations et opérations.
	\|}		\|}
Ligne 386 :		Ligne 386 :
	=== Split mode ===		=== Split mode ===

	Le paramètre `--split-mode` contrôle la façon dont llama.cpp répartit le modèle entre plusieurs GPU.		Le paramètre <code>--split-mode</code> contrôle la façon dont llama.cpp répartit le modèle entre plusieurs GPU.

	{\| class="wikitable"		{\| class="wikitable"
Ligne 393 :		Ligne 393 :
	! Usage conseillé		! Usage conseillé
	\|-		\|-
	\| `none`		\| <code>none</code>
	\| Pas de répartition multi-GPU.		\| Pas de répartition multi-GPU.
	\| À utiliser si un seul GPU doit être utilisé.		\| À utiliser si un seul GPU doit être utilisé.
	\|-		\|-
	\| `layer`		\| <code>layer</code>
	\| Répartit les couches du modèle entre les GPU.		\| Répartit les couches du modèle entre les GPU.
	\| Mode classique et généralement le plus simple.		\| Mode classique et généralement le plus simple.
	\|-		\|-
	\| `row`		\| <code>row</code>
	\| Répartit certains tenseurs entre les GPU.		\| Répartit certains tenseurs entre les GPU.
	\| Plus spécifique, à tester selon le modèle et le matériel.		\| Plus spécifique, à tester selon le modèle et le matériel.
	\|}		\|}

	En pratique, le mode `layer` est souvent le plus simple pour commencer.		En pratique, le mode <code>layer</code> est souvent le plus simple pour commencer.

	=== Exemple simple avec deux GPU ===		=== Exemple simple avec deux GPU ===
Ligne 417 :		Ligne 417 :
	--split-mode layer		--split-mode layer

	Avec `-ngl 999`, llama.cpp tente de charger le maximum de couches possible sur les GPU.		Avec <code>-ngl 999</code>, llama.cpp tente de charger le maximum de couches possible sur les GPU.

	=== Répartition manuelle avec tensor-split ===		=== Répartition manuelle avec tensor-split ===

	Par défaut, llama.cpp peut répartir les couches de manière automatique. En cas de GPU avec des quantités de VRAM différentes, ou si une carte tombe en OOM, il peut être nécessaire d'utiliser `--tensor-split`.		Par défaut, llama.cpp peut répartir les couches de manière automatique. En cas de GPU avec des quantités de VRAM différentes, ou si une carte tombe en OOM, il peut être nécessaire d'utiliser <code>--tensor-split</code>.

	Exemple avec deux GPU de 12 Go :		Exemple avec deux GPU de 12 Go :
Ligne 439 :		Ligne 439 :
	--tensor-split 24,12		--tensor-split 24,12

	Les valeurs de `--tensor-split` sont des proportions. Il n'est pas obligatoire d'indiquer exactement la VRAM en Go, mais c'est une méthode simple pour garder une répartition logique.		Les valeurs de <code>--tensor-split</code> sont des proportions. Il n'est pas obligatoire d'indiquer exactement la VRAM en Go, mais c'est une méthode simple pour garder une répartition logique.

	Ainsi, ces deux exemples sont équivalents dans l'idée :		Ainsi, ces deux exemples sont équivalents dans l'idée :
Ligne 449 :		Ligne 449 :
	=== Choisir le GPU principal ===		=== Choisir le GPU principal ===

	Le paramètre `--main-gpu` permet de choisir le GPU principal.		Le paramètre <code>--main-gpu</code> permet de choisir le GPU principal.

	Exemple avec le GPU 0 comme carte principale :		Exemple avec le GPU 0 comme carte principale :
Ligne 464 :		Ligne 464 :
	=== Sélectionner les GPU visibles ===		=== Sélectionner les GPU visibles ===

	Pour limiter llama.cpp à certaines cartes NVIDIA, il est possible d'utiliser `CUDA_VISIBLE_DEVICES`.		Pour limiter llama.cpp à certaines cartes NVIDIA, il est possible d'utiliser <code>CUDA_VISIBLE_DEVICES</code>.

	Exemple pour n'utiliser que les GPU 1 et 2 :		Exemple pour n'utiliser que les GPU 1 et 2 :
Ligne 510 :		Ligne 510 :
	Si une carte arrive en manque de mémoire, il faut réduire la charge :		Si une carte arrive en manque de mémoire, il faut réduire la charge :

	* diminuer `-c` ;		* diminuer <code>-c</code> ;
	* diminuer `-b` ;		* diminuer <code>-b</code> ;
	* diminuer `-ub` ;		* diminuer <code>-ub</code> ;
	* ajuster `--tensor-split` ;		* ajuster <code>--tensor-split</code> ;
	* réduire `-ngl` ;		* réduire <code>-ngl</code> ;
	* utiliser un quant plus léger.		* utiliser un quant plus léger.

Ligne 665 :		Ligne 665 :
	=== Benchmark multi-GPU ===		=== Benchmark multi-GPU ===

	Tester les performances avec `llama-bench` :		Tester les performances avec <code>llama-bench</code> :

	# /opt/llama.cpp/build/bin/llama-bench \		# /opt/llama.cpp/build/bin/llama-bench \