Ulasan Brethof AI

LocalAI (dihosting sendiri, Docker) ulasan

Server AI milik Anda sendiri, dengan galeri model yang sudah terpasang

Tidak disponsoriModels & Infrastruktur AI

Diuji di Linux · Gratis · Sumber terbuka

LocalAI adalah server gratis yang menjalankan model terbuka di perangkat keras Anda, dengan API OpenAI, Anthropic, dan Ollama. Kami menjalankan image CUDA 12 Docker di Linux, dengan Qwen3.5 9B pada RTX 4060 Ti.

Yang baik

  • Model kami ada di galeri. Model kami yang persis berada di galerinya, tetapi tombol Install utama memilih varian yang lebih cepat. Versi kami ada di baris build Base, butuh satu klik tambahan.
  • Seluruh model di GPU. Dengan image CUDA, seluruh model dipindahkan ke GPU, konteks 8.192 token, tanpa menyentuh pengaturan apa pun. Pengukuran kecepatan pertamanya ikut menghitung proses pemuatan.
  • Tanpa akun, MIT. Ia langsung terbuka ke halaman utamanya, tanpa login. Tidak ditemukan telemetri dalam kodenya. Berlisensi MIT, tanpa paket berbayar.

Tidak terlalu bagus

  • Besar, dirancang untuk operator. Dua unduhan besar muncul lebih dulu: image 3,74 gigabyte, lalu backend 1,92 gigabyte dari tag yang berubah-ubah, tanpa tanda tangan, senyap pada 100 persen selama dua menit. Lima puluh halaman itu banyak.
  • Seluruh PDF, tanpa kutipan. Obrolan menyalin seluruh teks PDF ke pesan Anda, tanpa retrieval atau kutipan, dan menolak PDF hasil pindaian. Data ini berusia beberapa minggu. Retrieval yang sesungguhnya membutuhkan Agents dan model embedding.

Kesimpulan kami

Direkomendasikan dengan catatan

MIT, tanpa akun, tanpa telemetri, dan model kami yang persis dari galerinya berjalan sepenuhnya di GPU. Namun ia mendengarkan pada setiap jaringan tanpa kunci, dan diam-diam memasang backend tanpa tanda tangan dari tag yang berubah-ubah. Dirancang untuk operator.

Diperiksa: LocalAI (dihosting sendiri, Docker) v4.11.0 (image CUDA 12) · fakta diverifikasi 2026-10-22

Tonton diYouTube

Tidak yakin alat mana yang cocok untuk pengaturan Anda? Saran teknis: tanyakan kepada kami sebelum Anda mengeluarkan uang. Jelaskan situasi Anda dan dapatkan jawaban tertulis dari kami dalam dua hari kerja.

Tanya kami →

← Semua ulasan

Dengarkan saat barang dikirim

Rilis terbaru, pengukuran kinerja yang akurat, serta analisis mendalam sesekali. Tanpa spam, batalkan berlangganan dengan satu klik saja

Semua yang Kami Buat