« Strata » : différence entre les versions
De Le Wiki de Lug
Autres actions
| Ligne 6 : | Ligne 6 : | ||
# cd Strata | # cd Strata | ||
# sudo ./setup.sh | # sudo ./setup.sh | ||
== Configuration == | |||
Après avoir laissé le moteur effectuer son réglage automatique, il est possible d’ajuster manuellement certains paramètres : | |||
# vi /opt/Strata/<font color="blue">strata-unsloth-ud-iq4_xs</font>.json | |||
=== Table N-GRAM en RAM === | |||
Pour charger la table N-GRAM en RAM plutôt que depuis le stockage, ajouter les paramètres suivants dans la section <code>args</code> : | |||
"--ple-io", | |||
"ram", | |||
Version du 15 octobre 2026 à 08:12
Installation
# sudo apt update && sudo apt upgrade # sudo apt install git build-essential # cd /opt/ # sudo git clone https://github.com/Niko1221/Strata.git # cd Strata # sudo ./setup.sh
Configuration
Après avoir laissé le moteur effectuer son réglage automatique, il est possible d’ajuster manuellement certains paramètres :
# vi /opt/Strata/strata-unsloth-ud-iq4_xs.json
Table N-GRAM en RAM
Pour charger la table N-GRAM en RAM plutôt que depuis le stockage, ajouter les paramètres suivants dans la section args :
"--ple-io", "ram",