Ubuntu-brugere slipper for selv at kompilere llama.cpp
Udgivelse b10969 tilføjer CUDA-byg til Ubuntu med GCC 14 til ARM64 og afhængige biblioteker.
Læs i dit tempo
Kort
Udgivelse b10969 af llama.cpp tilføjer officielle Ubuntu-CUDA-byg til udgivelserne for både x64 og ARM64 med CUDA 12.8 og 13.3. Det betyder, at Ubuntu-brugere med NVIDIA-GPU'er nu kan hente færdigbyggede CUDA-versioner direkte fra udgivelsessiden i stedet for selv at kompilere. Byggesystemet er opdateret, et ekstra bibliotek er fjernet indtil licensen er afklaret, og udgivelsesfilen er opdateret.
Begynder
Udgivelse b10969 af llama.cpp tilføjer nu en Ubuntu-CUDA-bygning til de officielle udgivelser. Ubuntu er en Linux-distribution, altså et styresystem. CUDA (Compute Unified Device Architecture) er NVIDIAs teknologi, der lader programmer bruge grafikkortet. Bygningerne dækker både x64 (en 64-bitars processorarkitektur) og ARM64 (Advanced RISC Machine 64-bit, en anden 64-bitars processorarkitektur). De bruger CUDA 12.8 og 13.3. Det er nyt i denne udgivelse.
CI’en (Continuous Integration, løbende integration) er baseret på GitHub Actions. CI er en automatisk opsætning, der bygger og tester software — som et samlebånd i en fabrik. Den er opdateret til at bygge med GCC 14 (GNU Compiler Collection, en samling af compilere) til ARM64. Der bruges eksplicit bash (Bourne Again Shell, en kommandofortolker), og git installeres for at hente CCCL (CUDA C++ Core Libraries), før koden hentes. Arbejdsstien sættes med $GITHUB_WORKSPACE. De afhængige biblioteker følger med i pakken, og cudart (CUDA runtime) pakkes, så der ikke opstår dubletter.
NCCL (NVIDIA Collective Communications Library) var først inkluderet, men er fjernet igen, indtil licensen er afklaret. Der blev installeret CURL (Client URL, et værktøj til at hente data) for at hente NCCL-licensen. Men da licensen ikke er bekræftet, er NCCL ikke en del af udgivelsen. Ifølge udgivelsesnoterne findes NCCL som færdigbygget til Linux.
Derudover er CI-navnene matchet for Windows, og llama.cpp-repoet (kodelageret) er whitelistet (hvidlistet) til git. Workflow-filen (arbejdsgangsfilen) .github/workflows/release.yml er opdateret med alle ændringerne. Ændringen betyder, at Ubuntu-brugere med NVIDIA GPU’er (Graphics Processing Unit, grafikkort) kan hente færdigbyggede CUDA-versioner direkte fra udgivelsessiden. Det gælder både x64- og ARM64-brugere. Tidligere skulle de selv kompilere.
Udgivelse b10969 af llama.cpp tilføjer Ubuntu-CUDA-byg til de officielle udgivelser. Byggene dækker både x64 og ARM64 og bruger CUDA 12.8 og 13.3. Det er nyt i denne udgivelse.
CI'en er baseret på GitHub Actions og er opdateret til at bygge med GCC 14 til ARM64. Der bruges eksplicit bash, og git installeres for at hente CCCL, før koden hentes. Arbejdsstien sættes med $GITHUB_WORKSPACE. De afhængige biblioteker følger med i pakken, og cudart pakkes, så der ikke opstår dubletter.
NCCL var først inkluderet, men er fjernet igen, indtil licensen er afklaret. Der blev installeret CURL for at hente NCCL-licensen, men da licensen ikke er bekræftet, er NCCL ikke en del af udgivelsen. Ifølge udgivelsesnoterne findes NCCL som færdigbygget til Linux.
Derudover er CI-navnene matchet for Windows, og llama.cpp-repoet er whitelistet til git. Workflow-filen .github/workflows/release.yml er opdateret med alle ændringerne.
Ændringen betyder, at Ubuntu-brugere med NVIDIA GPU'er kan hente færdigbyggede CUDA-versioner direkte fra udgivelsessiden. Det gælder både x64- og ARM64-brugere. Tidligere skulle de selv kompilere.
Kilder
Produktionshistorie
- Radar Signal ? af 100 · spredning 1 kilder
- Vurdering Nyheds 4/5 — Ny CI-build til Ubuntu CUDA i llama.cpp, relevant for lokale AI-modeller.
- Skrevet Model: deepseek-v4-flash · temperatur 0.4
- Overskrift 5 kandidater, valgt af deepseek-v4-flash
- Korrektur 1 zen · 2 rettelser
- Billede Genereret af gemini-2.5-flash-image
- Vedtagelse ainews-auto-v3 · score 0.4431