Ulasan Brethof AI

LocalAI (dihoskan sendiri, Docker) ulasan

Pelayan AI anda sendiri, dengan galeri model terbina dalam

Bukan disokong oleh pihak tertentuModels & Infrastruktur AI

Diuji pada Linux · Percuma · Sumber terbuka

LocalAI ialah pelayan percuma yang menjalankan model terbuka pada perkakasan anda, bersama dengan API OpenAI, Anthropic, dan Ollama. Kami telah menjalankan imej CUDA 12 Docker di Linux, manakala Qwen3.5 9B pula dijalankan pada RTX 4060 Ti.

Yang baik

  • Model kami, di galeri. Model sebenar kami berada di galerinya, tetapi butang Install utama memilih varian yang lebih cepat. Model kami merupakan versi Base build, memerlukan satu klik tambahan.
  • Model sepenuhnya di GPU. Dengan imej CUDA, keseluruhan model dipindahkan ke GPU, dengan konteks 8,192 token, tanpa sebarang tetapan diubah. Bacaan kelajuan pertama turut mengambil kira masa pemuatan.
  • Tiada akaun, MIT. Ia terus dibuka ke halaman utamanya, tanpa perlu log masuk. Tiada telemetri ditemui dalam kodnya. Ia dilesenkan di bawah MIT, tanpa pelan berbayar.

Tidak begitu baik

  • Besar, direka untuk pengendali. Dua muat turun besar didahulukan: imej berukuran 3.74 gigabait, kemudian backend berukuran 1.92 gigabait daripada tag yang bergerak, tidak bertandatangan, dan senyap sepenuhnya selama dua minit pada 100 peratus. Lima puluh halaman adalah terlalu banyak.
  • Seluruh PDF, tanpa petikan. Chat memasukkan keseluruhan teks PDF ke dalam mesej anda, tanpa pengambilan data atau petikan, dan menolak PDF yang imbasan. Ulasan ini berusia beberapa minggu. Pengambilan data sebenar memerlukan Agents dan model pembenaman.

Keputusan kami

Disyorkan dengan syarat-syarat tertentu

MIT: tiada akaun, tiada telemetri, dan model sebenar daripada galerinya berjalan sepenuhnya pada GPU. Namun ia mendengar pada setiap rangkaian tanpa kunci, dan memasang secara senyap backend yang tidak bertandatangan daripada tag yang bergerak. Dibina untuk pengendali.

Diperiksa: LocalAI (self-hosted, Docker) v4.11.0 (imej CUDA 12) · fakta disemak pada 2026-10-22

Tonton diYouTube

Tidak pasti alat mana yang sesuai untuk persediaan anda? Nasihat teknikal: tanyakan kepada kami sebelum anda membelanjakan wang anda. Terangkan situasi anda dan dapatkan jawapan bertulis daripada kami dalam masa dua hari bekerja.

Tanya kami →

← Semua ulasan

Dengarnya bila ia dihantar

Baru dikeluarkan, penanda aras sebenar, dan ulasan terperinci sekali-sekala. Tiada spam, boleh berhenti langganan dengan satu klik sahaja.

Segala yang kami bina