Обзоры Brethof AI

LocalAI (самостоятельный хостинг, Docker) обзор

Собственный сервер ИИ со встроенной галереей моделей

Не спонсированоModels и ИИ-инфраструктура

Протестировано на Linux · Бесплатно · Открытый исходный код

LocalAI — бесплатный сервер, который запускает открытые модели на вашем оборудовании и предоставляет API OpenAI, Anthropic и Ollama. Мы запустили его образ CUDA 12 Docker на Linux, с Qwen3.5 9B на RTX 4060 Ti.

Достоинства

  • Наша модель есть в галерее. Наша точная модель представлена в галерее, но основная кнопка установки выбирает более быстрый вариант. Наша — в строке сборки Base, на один клик дальше.
  • Вся модель на GPU. С образом CUDA вся модель поместилась на GPU, контекст 8 192 токена, без изменения настроек. Первое показание скорости включает время загрузки.
  • Без учётной записи, MIT. Программа сразу открывается на главной странице, без входа. В её коде не обнаружено телеметрии. Распространяется по лицензии MIT, платных тарифов нет.

Недостатки

  • Большой размер, ориентирован на опытных администраторов. Сначала загружаются два больших файла: образ на 3,74 гигабайта, затем бэкенд на 1,92 гигабайта с плавающего тега, без подписи, который на 100 процентах молчит две минуты. Пятьдесят страниц — это много.
  • Весь PDF, без ссылок на источники. Чат вставляет весь текст PDF в ваше сообщение, без поиска по фрагментам и без ссылок на источники, и отказывается от сканированных PDF. Функция существует всего несколько недель. Настоящий поиск по документам требует Agents и модели эмбеддингов.

Наш вердикт

Рекомендуется с оговорками

MIT: без учётной записи, без телеметрии, и наша точная модель из галереи полностью работала на GPU. Но он слушает все сети без ключа и молча устанавливает неподписанный бэкенд с плавающего тега. Ориентирован на опытных администраторов.

Проверено: LocalAI (самостоятельный хостинг, Docker) v4.11.0 (образ CUDA 12) · факты проверены 2026-10-22

Перейти на LocalAI →
Смотрите наYouTube

Не уверены, какой инструмент подойдёт для вашей конфигурации? Совет от специалистов: обратитесь к нам, прежде чем тратить свои деньги. Опишите свою ситуацию, и мы дадим вам письменный ответ в течение двух рабочих дней.

Спросите нас →

← Все обзоры

Будьте в курсе

Узнаете, когда оно выйдет

Новые релизы, реальные тесты и периодические глубокие разборы. Без спама, отписка в один клик.

Сеть Brethof

Всё, что мы создаём

Voice Pro

Диктовка, транскрипция и перевод — всё работает на вашем компьютере. Купите один раз.

brethof-brain

Память для ваших ИИ-агентов — записи, правила, полная история и граф решений, уже доступные при старте сессии. Она отвечает ещё до того, как вы спросите.

Технические советы

Напишите нам, что вам нужно. Письменный ответ — в течение двух рабочих дней.

Nova

Наш канал на YouTube. Ведущий-кибертигр рассказывает о местных инструментах искусственного интеллекта и о том, что они на самом деле делают.

Обзоры

Короткие видеообзоры программного обеспечения и ИИ-инструментов: съёмка в кадре, с вердиктом, который нельзя купить.

Подборки

Отобранные списки на GitHub для агентов по программированию с использованием ИИ, серверов MCP, локальных решений для ИИ и Linux в целях работы с ИИ. К каждой записи прилагается ссылка на источник.