« Beellama.cpp » : différence entre les versions
De Le Wiki de Lug
Autres actions
Page créée avec « [https://github.com/Anbeeld/beellama.cpp Source] == Installation == === NVIDIA === Prérequis : avoir installé le cuda-toolkit » |
|||
| Ligne 2 : | Ligne 2 : | ||
== Installation == | == Installation == | ||
=== NVIDIA === | === NVIDIA === | ||
Prérequis : avoir installé le [[Ik_llama.cpp#Installation_du_support_GPU_NVIDIA_CUDA|cuda-toolkit]] | *Prérequis : avoir installé le [[Ik_llama.cpp#Installation_du_support_GPU_NVIDIA_CUDA|cuda-toolkit]] | ||
On récupère le projet : | |||
# cd /opt/ | |||
# git clone <nowiki>https://</nowiki>github.com/Anbeeld/beellama.cpp.git | |||
# cd beellama.cpp | |||
On passe à la compilation : | |||
# export CUDACXX=/usr/local/cuda-<font color=blue>13.3</font>/bin/nvcc | |||
# cmake -B build -DGGML_CUDA=ON -DGGML_NATIVE=ON -DGGML_CUDA_FA=ON -DCMAKE_BUILD_TYPE=Release -DGGML_LTO=ON -DGGML_CUDA_FA_ALL_QUANTS=ON <font color = green>-DLLAMA_OPENSSL=ON</font> | |||
# cmake --build build --config Release -j$(nproc) | |||
Version du 25 juillet 2026 à 16:29
Installation
NVIDIA
- Prérequis : avoir installé le cuda-toolkit
On récupère le projet :
# cd /opt/ # git clone https://github.com/Anbeeld/beellama.cpp.git # cd beellama.cpp
On passe à la compilation :
# export CUDACXX=/usr/local/cuda-13.3/bin/nvcc # cmake -B build -DGGML_CUDA=ON -DGGML_NATIVE=ON -DGGML_CUDA_FA=ON -DCMAKE_BUILD_TYPE=Release -DGGML_LTO=ON -DGGML_CUDA_FA_ALL_QUANTS=ON -DLLAMA_OPENSSL=ON # cmake --build build --config Release -j$(nproc)