Рецензии за Brethof AI

LocalAI (самохостиран, Docker) преглед

Ваш сопствен AI сервер, со вградена галерија модели

Не е спонзорираноModels & Инфраструктура за ИИ

Тестирано на Linux · Бесплатно · Отворен код

LocalAI е бесплатен сервер кој извршува модели со отворен код на вашиот хардвер, со OpenAI, Anthropic и Ollama API. Го извршивме неговиот CUDA 12 Docker образ на Linux, со Qwen3.5 9B на RTX 4060 Ti.

Доброто

  • Нашиот модел, во галеријата. Нашиот точен модел е во галеријата, но главното копче „Инсталирај“ избира побрза варијанта. Нашиот е во редот Base build – уште еден клик.
  • Целиот модел на GPU. Со CUDA образот, целиот модел замина на GPU, 8,192 токени контекст, без промени во поставките. Првото мерење на брзината го брои вчитувањето.
  • Нема сметка, MIT. Се отвора директно на својата почетна страница, без најава. Во кодот не беше пронајдена телеметрија. Има MIT лиценца, без платени планови.

Не толку доброто

  • Голем, направен за оператори. Прво одат два големи симнувања – образ од 3,74 гигабајти, па без-потпис-бакенд од 1,92 гигабајти од подвижен таг; тивко на 100 проценти две минути. Педесет страници е многу.
  • Цел PDF, без цитати. Џетот го лепи целиот текст на PDF во ваша порака, без retrieval или цитати, и одбива скенирани PDF. Тоа е со неколку недели од старост. Вистински retrieval бара Agents и embedding модел.

Нашиот заклучок

Препорачано со резерви

MIT: без сметка, без телеметрија, а нашиот точен модел од галеријата целосно се изврши на GPU. Но слуша на секоја мрежа без клуч, и тивко инсталира без-потпис-бакенд од подвижен таг. Направен за оператори.

Прегледано: LocalAI (само-хостиран, Docker) в4.11.0 (CUDA 12 образ) · фактите проверени на 2026-10-22

Посетете го LocalAI →
Гледајте го наYouTube

Не сте сигурни кој алат одговара на вашето уредување? Технички Совет: Прашајте пред да ги потрошите своите пари. Опишете ја вашата ситуација и добијте наш одговор пишано за два работни дена.

Прашајте нè →

← Сите рецензии

Останете во тек

Чујте го кога ќе биде објавено

Нови изданија, реални бенчмарки и повремена длабока анализа. Без спам, откажување со еден клик.

Мрежата Brethof

Сè што градиме

Voice Pro

Диктирање, транскрипција и превод што работат на вашиот компјутер. Купете еднаш.

brethof-brain

Меморија за вашите AI агенти — записи, правила, целосната историја и графот на одлуките, веќе присутни кога сесијата започнува. Одговара пред да прашате.

Технички совети

Кажете ни што ви треба. Наш писмен одговор во рок од два работни дена.

Nova

Наш канал на YouTube. Водитељ-кибертигр прегледува локални алати за ИИ и шта те заправо раде.

Рецензии

Кратки видео-рецензии на софтвер и алатки за вештачка интелигенција: снимени пред камера, со заклучок што никој не може да го купи.

Одлични списоци

Избрани списци на GitHub за агенти за програмирање са ИИ, сервери MCP, локален ИИ и Linux за ИИ. Свака ставка содржи линк кон изворот.