Brethof AI-recensioner

LocalAI (self-hosted, Docker) recension

Din egen AI-server, med ett inbyggt modellgalleri

Inte sponsradModels & AI-infrastruktur

Testat på Linux · Gratis · Öppen källkod

LocalAI är en gratis server som kör öppna modeller på din hårdvara, med API:er för OpenAI, Anthropic och Ollama. Vi körde dess CUDA 12 Docker-avbildning på Linux, med Qwen3.5 9B på en RTX 4060 Ti.

Det som är bra

  • Vår modell, i galleriet. Vår exakta modell finns i galleriet, men huvudknappen ”Installera” väljer en snabbare variant. Vår finns på Base-raden – ett klick till.
  • Hela modellen på GPU. Med CUDA-avbildningen hamnade hela modellen på GPU:n, 8 192 tokens kontext, utan att några inställningar ändrades. Dess första hastighetsavläsning räknar med inläsningen.
  • Inget konto, MIT. Den öppnar direkt till sin startsida, ingen inloggning. Ingen telemetri hittades i dess kod. Den är MIT-licensierad, inga betalda planer.

Det som inte är så bra

  • Stort, byggt för operatörer. Två stora nedladdningar kommer först – en avbildning på 3,74 gigabyte, sedan en backend på 1,92 gigabyte från en rörlig tagg, osignerad, tyst vid 100 procent i två minuter. Femtio sidor är mycket.
  • Hela PDF:n, inga källhänvisningar. Chatten klistrar in en PDF:s hela text i ditt meddelande, utan sökning eller källhänvisningar, och vägrar skannade PDF:er. Den är veckor gammal. Verklig sökning kräver Agents och en inbäddningsmodell.

Vår bedömning

Rekommenderas med förbehåll

MIT – inget konto, ingen telemetri, och vår exakta modell från galleriet körde helt på GPU:n. Men den lyssnar på varje nätverk utan nyckel och installerar tyst en osignerad backend från en rörlig tagg. Byggd för operatörer.

Granskat: LocalAI (självhostad, Docker) v4.11.0 (CUDA 12-avbildning) · fakta kontrollerade 2026-10-22

Besök LocalAI →
Titta på den påYouTube

Osäker på vilket verktyg som passar din miljö? Teknisk rådgivning: fråga oss innan du lägger ut dina pengar. Beskriv din situation och få vårt svar skriftligen inom två arbetsdagar.

Fråga oss →

← Alla recensioner

Håll dig uppdaterad

Hör det när det släpps

Nya utgåvor, verkliga riktmärken och ibland en djupdykning. Ingen skräppost, avregistrera dig med ett klick.

Brethof-nätverket

Allt vi bygger

Voice Pro

Diktering, transkribering och översättning som körs på din egen dator. Köp en gång.

brethof-brain

Minne för dina AI-agenter — poster, regler, hela historiken och beslutsgrafen, redan där när en session startar. Den svarar innan du frågar.

Teknikråd

Berätta vad du behöver. Du får vårt skriftliga svar inom två arbetsdagar.

Nova

Vår YouTube-kanal. En cybertiger-värd visar upp lokala AI-verktyg och vad de faktiskt gör.

Recensioner

Korta videorecensioner av programvara och AI-verktyg: använda inför kameran, med en bedömning som ingen kan köpa.

Fantastiska listor

Utvalda GitHub-listor för AI-kodningsagenter, MCP-server, lokala AI-lösningar samt Linux för AI. Varje post innehåller en länk till källan.