Avis sur Brethof AI

LocalAI (auto-hébergé, Docker) test

Votre propre serveur d’IA, avec une galerie de modèles intégrée

Sans sponsorModels & Infrastructure d’IA

Testé sous Linux · Gratuit · Open source

LocalAI est un serveur gratuit qui exécute des modèles ouverts sur votre matériel, avec les API OpenAI, Anthropic et Ollama. Nous avons utilisé son image CUDA 12 Docker sous Linux, avec Qwen3.5 9B sur une RTX 4060 Ti.

Les points forts

  • Notre modèle, dans la galerie. Notre modèle exact figure dans sa galerie, mais le bouton d’installation principal choisit une variante plus rapide. Le nôtre se trouve dans la ligne de version de base, à un clic de plus.
  • Tout le modèle sur le GPU. Avec l’image CUDA, tout le modèle est passé sur le GPU, avec un contexte de 8 192 tokens, sans toucher aux réglages. Sa première mesure de vitesse compte le chargement.
  • Aucun compte, MIT. Il s’ouvre directement sur sa page d’accueil, sans connexion. Aucune télémétrie n’a été trouvée dans son code. Il est sous licence MIT, sans formules payantes.

Les points faibles

  • Gros, conçu pour les opérateurs. Deux gros téléchargements d’abord : une image de 3,74 gigaoctets, puis un backend de 1,92 gigaoctet provenant d’une balise mobile, non signé, silencieux à 100 % pendant deux minutes. Cinquante pages, c’est beaucoup.
  • PDF entier, sans citations. Le chat colle tout le texte d’un PDF dans votre message, sans récupération ni citations, et refuse les PDF scannés. Il date de several semaines. Une véritable récupération nécessite Agents et un modèle de plongement.

Notre verdict

Recommandé avec réserves

MIT : pas de compte, pas de télémétrie, et notre modèle exact issu de sa galerie a tourné entièrement sur le GPU. Mais il écoute sur tous les réseaux sans clé, et installe en silence un backend non signé provenant d’une balise mobile. Conçu pour les opérateurs.

Évalué : LocalAI (auto-hébergé, Docker) v4.11.0 (image CUDA 12) · faits vérifiés le 22/10/2026

Regardez-le surYouTube

Vous ne savez pas quel outil convient à votre configuration ? Conseil technique : demandez-nous conseil avant d’investir. Décrivez votre situation et vous recevrez notre réponse par écrit dans un délai de deux jours ouvrés.

Posez-nous votre question →

← Tous les avis

L’entendre lorsqu’il sera livré

Nouveaux produits, véritables benchmarks et analyses approfondies occasionnelles. Aucun spam, abonnement à désactiver en un clic.

Tout ce que nous créons