Brethof AI értékelések

LocalAI (self-hosted, Docker) teszt

Saját AI-szerver beépített modellgalériával

Nem szponzoráltModels és AI-infrastruktúra

Tesztelve Linuxon · Ingyenes · Nyílt forráskódú

A LocalAI egy ingyenes szerver, amely nyílt modelleket futtat a saját hardverén, és OpenAI, Anthropic és Ollama API-kat biztosít. A CUDA 12 Docker image-t Linuxon teszteltük, Qwen3.5 9B modellel egy RTX 4060 Ti-n.

Ami jó

  • A modellünk a galériában. A pontos modellünk megtalálható a galériájában, de a fő Telepítés gomb egy gyorsabb változatot választ. A miénk a Base build sorban van, egy kattintással odébb.
  • Teljes modell a GPU-n. A CUDA image-szel a teljes modell felkerült a GPU-ra, 8192 tokenes kontextussal, beállítások módosítása nélkül. Az első sebességmérés a betöltést is számítja.
  • Nincs fiók, MIT. Bejelentkezés nélkül nyílik meg rögtön a főoldala. A kódjában nem találtunk telemetriát. MIT licencű, nincsenek fizetős csomagok.

Ami kevésbé jó

  • Nagy, operátoroknak készült. Először két nagy letöltés jön: egy 3,74 gigabájtos image, majd egy 1,92 gigabájtos backend egy mozgó tagról – aláratlanul, csendben, két percig 100 százalékon. Ötven oldal sok.
  • Teljes PDF, idézések nélkül. A chat a PDF teljes szövegét beilleszti az üzenetébe, lekérés és idézések nélkül, és a szkennelt PDF-eket visszautasítja. Ez hetekre nyúlik vissza. Valódi lekéréshez Agents és egy embedding modell szükséges.

A mi ítéletünk

Ajánlott, fenntartásokkal

MIT: nincs fiók, nincs telemetria, és a pontos modellünk a galériájából teljesen a GPU-n futott. De minden hálózaton figyel kulcs nélkül, és csendben telepít egy aláratlan backendet egy mozgó tagról. Operátoroknak készült.

Kipróbálva: LocalAI (self-hosted, Docker) v4.11.0 (CUDA 12 image) · tények ellenőrizve: 2026-10-22

Nézd meg itt:YouTube

Nem biztos benne, melyik eszköz illik a beállításaihoz? Technikai tanács: kérdezzen minket, mielőtt a pénzét elköltené. Írja le a helyzetét, és írásbeli válaszunkat két munkanapon belül megkapja.

Kérdezzen minket →

← Összes értékelés

Halljuk, amikor elérhető lesz.

Új kiadások, valós benchmarkok és néha egy-egy mély merülés. Nincs spam, egy kattintással leiratkozhatsz.

Minden, amit építünk