Brethof AI-recensies

LocalAI (zelf gehost, Docker) review

Uw eigen AI-server, met een ingebouwde modellengalerij

Niet gesponsordModels & AI-infrastructuur

Getest op Linux · Gratis · Open source

LocalAI is een gratis server die open modellen op je eigen hardware draait, met OpenAI-, Anthropic- en Ollama-API's. We hebben de CUDA 12 Docker-image op Linux gedraaid, met Qwen3.5 9B op een RTX 4060 Ti.

Het goede

  • Ons model, in de galerij. Ons exacte model staat in de galerij, maar de knop Installeren kiest standaard een sneller variant. Het onze staat in de rij Base; dat kost één klik extra.
  • Hele model op de GPU. Met de CUDA-image ging het hele model naar de GPU, met 8.192 tokens context, zonder instellingen aan te passen. De eerste snelheidsmeting telt het laden mee.
  • Geen account, MIT. Het opent direct op de startpagina, zonder inloggen. Er is geen telemetry aangetroffen in de code. Het valt onder de MIT-licentie, zonder betaalde plannen.

Niet zo goed

  • Groot, gebouwd voor beheerders. Eerst komen twee grote downloads: een image van 3,74 gigabyte, daarna een backend van 1,92 gigabyte vanaf een verplaatsbare tag, ondertekend: nee, twee minuten stil op 100 procent. Vijftig pagina's is veel.
  • Hele PDF, geen bronvermeldingen. De chat plakt de volledige tekst van een PDF in je bericht, zonder retrieval of bronvermeldingen, en weigert gescande PDF's. Het document is weken oud. Echte retrieval vereist Agents en een embeddingmodel.

Ons oordeel

Aanbevolen met voorbehouden

MIT, geen account, geen telemetry, en ons exacte model uit de galerij draaide volledig op de GPU. Maar het luistert op elk netwerk zonder sleutel en installeert stilletjes een niet-ondertekende backend vanaf een verplaatsbare tag. Gebouwd voor beheerders.

Gerecenseerd: LocalAI (self-hosted, Docker) v4.11.0 (CUDA 12 image) · feiten gecontroleerd op 2026-10-22

Kijk het opYouTube

Weet u niet welke tool bij uw setup past? Technisch advies: vraag het ons voordat u uw geld uitgeeft. Beschrijf uw situatie en ontvang binnen twee werkdagen ons antwoord op schrift.

Vraag het ons →

← Alle recensies

Hoor het wanneer het uitkomt

Nieuwe releases, echte benchmarks en af en toe een diepgaande analyse. Geen spam, in één klik uitschrijven.

Alles wat we bouwen