Brethof AI-anmeldelser

LocalAI (selvhostet, Docker) anmeldelse

Din egen AI-server med et indbygget modelgalleri

Ikke sponsoreretModels & AI-infrastruktur

Testet på Linux · Gratis · Open source

LocalAI er en gratis server, der kører open modeller på dit hardware med OpenAI-, Anthropic- og Ollama-API'er. Vi kørte dets CUDA 12 Docker-image på Linux med Qwen3.5 9B på en RTX 4060 Ti.

Det gode

  • Vår modell, i galleriet. Vår præcise modell findes i galleriet, men hovedknappen for installation velger en hurtigere variant. Voren er Base-build-varianten – et ekstra klik.
  • Hele modellen på GPU'en. Med CUDA-image kom hele modellen på GPU'en med 8.192 tokens kontekst uden ændrede indstillinger. Den første hastighedsmåling tæller indlæsningen med.
  • Ingen konto, MIT. Det åbner direkte på sin hjemmeside, uden login. Der blev ikke fundet telemetri i koden. Det er licenseret under MIT uden betalte planer.

Det mindre gode

  • Stort – designet for operatører. To store nedlæggelser først: en image på 3,74 gigabait, derefter en backend på 1,92 gigabait fra en rørende tag – uundertecknet, uden lyd – i 100 procent i to minutter. Femtio sider er meget.
  • Helt PDF, uden Citations. Chat klipser ind hele teksten fra en PDF i din melding, uden søgning eller Citations, og afviser skannede PDF-filer. Det er blevet til for nogle uger. Til virkelig søgning kræves Agents og en embedding-model.

Vores konklusion

Anbefales med forbehold

MIT: ingen konto, ingen telemetri, og vores præcise model fra galleriet kørte fuldt ud på GPU'en. Men den lytter på alle netværk uden nøgle og installerer lydløst en usigneret backend fra et flyttet tag. Lavet til operatører.

Gennemgået: LocalAI (self-hosted, Docker) v4.11.0 (CUDA 12-image) · fakta kontrolleret 2026-10-22

Besøg LocalAI →
Se den påYouTube

Er du usikker på hvilket værktøj, der passer til din udstyring? Teknisk råd: Spør os før du spenderer penge. Beskriv din situation og modtage vores svar skriftligt inden for to arbejdstage.

Spørg os →

← Alle anmeldelser

Hold dig opdateret

Hør det, når det udkommer

Nye udgivelser, reelle benchmarks og af og til en dybdegående gennemgang. Ingen spam, afmeld med et klik.

Brethof-netværket

Alt, hvad vi bygger

Voice Pro

Diktering, transskription og oversættelse, der kører på din egen maskine. Køb én gang.

brethof-brain

Hukommelse til dine AI-agenter — poster, regler, den fulde historik og beslutningsgrafen, allerede til stede, når en session starter. Den svarer, før du spørger.

Teknisk råd

Fortæl os, hvad du har brug for. Vi svarer skriftligt inden for to arbejdsdage.

Nova

Vores YouTube-kanal. En cybertiger-vært gennemgår lokale AI-værktøjer og hvad de faktisk gør.

Anmeldelser

Korte videoanmeldelser af software og AI-værktøjer: brugt foran kameraet, med en konklusion, ingen kan købe.

Fantastiske lister

Kuraterede GitHub-lister for AI-kodingsagenter, MCP-servere, lokalt AI og Linux til AI. Hver post indeholder et kilde-link.