Brethof AI İncelemeleri

LocalAI (kendi sunucunuzda, Docker) incelemesi

Yerleşik model galerisiyle kendi yapay zeka sunucunuz

Sponsorlu değilModels ve Yapay Zeka Altyapısı

Linux üzerinde test edildi · Ücretsiz · Açık kaynak

LocalAI, donanımınızda açık modelleri çalıştıran ücretsiz bir sunucudur; OpenAI, Anthropic ve Ollama API'lerine sahiptir. CUDA 12 Docker görüntüsünü Linux'ta, Qwen3.5 9B modeliyle RTX 4060 Ti üzerinde çalıştırdık.

İyi olan

  • Modelimiz, galeride. Tam modelimiz galerisinde yer alıyor, ancak ana "Yükle" düğmesi daha hızlı bir varyantı seçiyor. Bizimki Base kurulum satırında, bir tık daha geride.
  • Modelin tamamı GPU'da. CUDA görüntüsüyle modelin tamamı GPU'ya geçti; 8,192 token bağlam, hiçbir ayara dokunmadan. İlk hız ölçümü yükleme süresini de sayar.
  • Hesap yok, MIT. Doğrudan ana sayfasına açılır, oturum açma yoktur. Kodunda telemetri bulunamadı. MIT lisanslıdır; ücretli plan yoktur.

O kadar da iyi değil

  • Büyük, operatörler için tasarlanmış. Önce 3,74 gigabaytlık bir görüntü, ardından hareketli bir etiketten gelen imzasız, yüzde 100'de iki dakika boyunca sessiz 1,92 gigabaytlık bir arka uç iner. Elli sayfa çok.
  • Tam PDF, alıntı yok. Chat özelliği, bir PDF’nin tüm metnini herhangi bir arama veya alıntı olmaksızın mesaja yapıştırır ve taranmış PDF’leri kabul etmez. Bu özellik haftalardır mevcut. Gerçek arama işlemleri için Agents ve bir yerleştirme modeli gereklidir.

Kararımız

Bazı çekincelerle önerilir

MIT: Ne hesap var ne de telemetri; galerisindeki tam modelimiz tamamen GPU üzerinde çalıştı. Ancak her ağda anahtar olmaksızın dinleme yapar ve hareketli bir etiketten imzasız bir arka uç yazılımını sessizce yükler. Operatörler için tasarlanmıştır.

İnceleme konusu: LocalAI (kendi sunucusunda çalışan, Docker) v4.11.0 (CUDA 12 görüntüsü) · gerçekler 2026-10-22 tarihinde doğrulandı

Şurada izleyinYouTube

Hangi aracın kurulumunuza uygun olduğundan emin değil misiniz? Teknik tavsiye: Paranızı harcamadan önce bize sorun. Durumunuzu anlatın, iki iş günü içinde yazılı yanıtımızı alın.

Bize sorun →

← Tüm incelemeler

Kargolandığında duyacaksınız.

Yeni sürümler, gerçek kıyaslamalar ve ara sıra derinlemesine incelemeler. Spam yok, tek tıkla abonelikten çıkın.

İnşa ettiğimiz her şey