Recenzje Brethof AI

LocalAI (self-hosted, Docker) recenzja

Własny serwer AI z wbudowaną galerią modeli

Nie jest sponsorowaneModels i infrastruktura AI

Przetestowano na Linuxie · Darmowe · Otwarty kod źródłowy

LocalAI to bezpłatny serwer, który uruchamia otwarte Models na twoim sprzęcie, dzięki interfejsom API OpenAI, Anthropic i Ollama. Uruchomiliśmy jego wersję CUDA 12 Docker na Linuxie, a wersję Qwen3.5 9B na karcie RTX 4060 Ti.

Zalety

  • Nasz model w galerii. Nasz dokładny model jest w galerii, ale główny przycisk Instaluj wybiera szybszy wariant. Nasz znajduje się w wierszu Base build – to jedno kliknięcie więcej.
  • Cały model na GPU. Z obrazem CUDA cały model trafił na GPU, kontekst 8192 tokenów, bez zmiany żadnych ustawień. Pierwszy pomiar prędkości obejmuje ładowanie.
  • Bez konta, MIT. Otwiera się od razu na stronę główną, bez logowania. W jego kodzie nie znaleziono telemetrii. Ma licencję MIT, brak płatnych planów.

Wady

  • Duży, stworzony dla operatorów. Najpierw dwa duże pliki do pobrania: obraz o rozmiarze 3,74 gigabajta, potem backend o rozmiarze 1,92 gigabajta z ruchomego taga, bez podpisu, cicho przy 100 procentach przez dwie minuty. Pięćdziesiąt stron to sporo.
  • Cały PDF, bez odniesień. Czat wkleja cały tekst pliku PDF do twojej wiadomości, bez wyszukiwania ani odniesień, i odrzuca skanowane pliki PDF. Funkcja ma kilka tygodni. Prawdziwe wyszukiwanie wymaga Agents i modelu embeddings.

Nasz werdykt

Zalecane z zastrzeżeniami

MIT: bez konta, bez telemetrii, a nasz dokładny model z galerii działał w pełni na GPU. Jednak nasłuchuje na każdej sieci bez klucza i cicho instaluje niepodpisany backend z ruchomego taga. Stworzony dla operatorów.

Przeglądano: LocalAI (self-hosted, Docker) v4.11.0 (obraz CUDA 12) · fakty sprawdzone 2026-10-22

Obejrzyj naYouTube

Nie wiesz, które narzędzie pasuje do Twojego zestawu? Porada techniczna: zapytaj nas, zanim wydasz swoje pieniądze. Opisz swoją sytuację i otrzymasz naszą pisemną odpowiedź w ciągu dwóch dni roboczych.

Zapytaj nas →

← Wszystkie recenzje

Usłyszysz, gdy się ukaże

Nowe wydania, prawdziwe benchmarki i okazjonalne dogłębne analizy. Bez spamu, rezygnacja jednym kliknięciem.

Wszystko, co tworzymy