Mga Pagsusuri sa Brethof AI

LocalAI (self-hosted, Docker) pagsusuri

Ang sarili mong AI server, na may built-in na gallery ng mga modelo

Hindi sinusuportahanModels at AI Infrastructure

Nasubok sa Linux · Libre · Open source

Ang LocalAI ay isang libreng server na nagpapatakbo ng mga open model sa iyong hardware, na may OpenAI, Anthropic at Ollama APIs. Tinakbo namin ang CUDA 12 Docker image nito sa Linux, na may Qwen3.5 9B sa isang RTX 4060 Ti.

Ang mabuti

  • Ang aming modelo, nasa gallery. Ang eksaktong modelo namin ay nasa gallery nito, ngunit ang pangunahing Install button ay pumipili ng mas mabilis na variant. Ang amin ay nasa hanay ng Base build, isang click pa.
  • Buo ang modelo sa GPU. Sa CUDA image, ang buong modelo ay nailipat sa GPU, 8,192 token context, nang hindi ginagalaw ang mga setting. Ang unang pagbasa ng bilis nito ay kasama ang load.
  • Walang account, MIT. Direkta itong bumubukas sa home page nito, walang login. Walang nahanap na telemetry sa code nito. May lisensya itong MIT, walang bayad na plano.

Hindi gaanong maganda

  • Malaki, dinisenyo para sa mga operator. Dalawang malaking download ang dumating muna: isang 3.74 gigabyte na image, pagkatapos ay isang 1.92 gigabyte na backend mula sa isang moving tag, walang lagda, tahimik sa 100 porsyento sa loob ng dalawang minuto. Limampung pahina ay marami.
  • Buong PDF, walang citations. Inilalagay ng chat ang buong teksto ng PDF sa iyong mensahe, nang walang retrieval o citations, at tumatanggi ito sa mga na-scan na PDF. Ilang linggo na ang edad nito. Ang tunay na retrieval ay nangangailangan ng Agents at isang embedding model.

Ang aming hatol

Inirerekomenda nang may mga paalala

MIT: walang account, walang telemetry, at ang eksaktong modelo namin mula sa gallery nito ay tumakbo nang buo sa GPU. Ngunit nakikinig ito sa bawat network nang walang key, at Tahimik na nag-i-install ng backend na walang lagda mula sa isang moving tag. Dinisenyo para sa mga operator.

Sinuri: LocalAI (self-hosted, Docker) v4.11.0 (CUDA 12 image) · nasuri ang mga katotohanan noong 2026-10-22

Panoorin ito saYouTube

Hindi sigurado kung aling tool ang angkop sa iyong setup? Payo sa teknolohiya: magtanong muna sa amin bago gumastos. Ikuwento ang iyong sitwasyon at makakatanggap ka ng sagot mula sa amin sa loob ng dalawang araw ng trabaho.

Magtanong sa amin →

← Lahat ng review

Pakinggan ito kapag naipadala na.

Mga bagong lalabas, tunay na mga pamantayan, at paminsan-minsang mas malalim na pagtalakay. Walang spam, maaaring mag-unsubscribe sa isang klik.

Lahat ng ating ginagawa