Recensioni di Brethof AI

LocalAI (self-hosted, Docker) recensione

Il tuo server AI personale, con una galleria di modelli integrata

Non sponsorizzatoModels e infrastruttura AI

Testato su Linux · Gratuito · Open source

LocalAI è un server gratuito che esegue modelli open sul tuo hardware, con le API OpenAI, Anthropic e Ollama. Abbiamo eseguito la sua immagine CUDA 12 Docker su Linux, con Qwen3.5 9B su una RTX 4060 Ti.

Il buono

  • Il nostro modello, nella galleria. Il nostro modello esatto è nella sua galleria, ma il pulsante Installa principale sceglie una variante più rapida. Il nostro è la riga della build Base, un clic in più.
  • Intero modello sulla GPU. Con l'immagine CUDA, l'intero modello è finito sulla GPU, 8,192 token di contesto, senza toccare alcuna impostazione. La sua prima rilevazione di velocità comprende il caricamento.
  • Nessun account, MIT. Si apre direttamente sulla sua pagina iniziale, senza login. Nel suo codice non è stata trovata alcuna telemetria. È con licenza MIT, senza piani a pagamento.

Non così buono

  • Grande, pensato per gli operatori. Prima arrivano due download grossi: un'immagine da 3,74 gigabyte, poi un backend da 1,92 gigabyte da un tag mobile, senza firma, silenzioso al 100 percento per due minuti. Cinquanta pagine sono tante.
  • PDF intero, senza citazioni. La chat incolla nei messaggio l'intero testo di un PDF, senza retrieval né citazioni, e rifiuta i PDF scansionati. Ha qualche settimana di vita. Un vero retrieval richiede Agents e un modello di embedding.

Il nostro verdetto

Consigliato con riserve

MIT: nessun account, nessuna telemetria, e il nostro modello esatto dalla sua galleria girava interamente sulla GPU. Ma ascolta su ogni rete senza alcuna chiave, e installa in silenzio un backend senza firma da un tag mobile. Pensato per gli operatori.

Recensione: LocalAI (self-hosted, Docker) v4.11.0 (immagine CUDA 12) · fatti verificati il 2026-10-22

Guardalo suYouTube

Non sei sicuro di quale strumento si adatti alla tua configurazione? Consiglio tecnico: chiedici prima di spendere i tuoi soldi. Descrivi la tua situazione e riceverai una risposta scritta entro due giorni lavorativi.

Chiedi a noi →

← Tutte le recensioni

Ascoltatelo quando sarà disponibile.

Nuove versioni, benchmark reali e occasionali approfondimenti. Niente spam, disiscrizione con un clic.

Tutto ciò che creiamo