« Strata » : différence entre les versions
De Le Wiki de Lug
Autres actions
| Ligne 10 : | Ligne 10 : | ||
Après avoir laissé le moteur effectuer son réglage automatique, il est possible d’ajuster manuellement certains paramètres : | Après avoir laissé le moteur effectuer son réglage automatique, il est possible d’ajuster manuellement certains paramètres : | ||
# vi /opt/Strata/<font color="blue">strata-unsloth-ud-iq4_xs</font>.json | # sudo vi /opt/Strata/<font color="blue">strata-unsloth-ud-iq4_xs</font>.json | ||
=== Table N-GRAM en RAM === | === Table N-GRAM en RAM === | ||
Version du 15 octobre 2026 à 08:14
Installation
# sudo apt update && sudo apt upgrade # sudo apt install git build-essential # cd /opt/ # sudo git clone https://github.com/Niko1221/Strata.git # cd Strata # sudo ./setup.sh
Configuration
Après avoir laissé le moteur effectuer son réglage automatique, il est possible d’ajuster manuellement certains paramètres :
# sudo vi /opt/Strata/strata-unsloth-ud-iq4_xs.json
Table N-GRAM en RAM
Pour charger la table N-GRAM en RAM plutôt que depuis le stockage, ajouter les paramètres suivants dans la section args :
"--ple-io", "ram",