Brethof AIのレビュー

LocalAI(セルフホスト、Docker)レビュー

モデルギャラリーを内蔵した、あなた専用のAIサーバー

スポンサー提供ではありませんModels & AIインフラストラクチャ

Linuxでテスト済み · 無料 · オープンソース

LocalAIは、お使いのハードウェア上でオープンなモデルを実行する無料のサーバーで、OpenAI、Anthropic、OllamaのAPIを備えています。私たちはLinux上でCUDA 12のDockerイメージを実行し、RTX 4060 Ti上でQwen3.5 9Bを動かしました。

良い点

  • ギャラリーにある私たちのモデル。 正確なモデルはギャラリーにありますが、メインの「インストール」ボタンではより高速なバリアントが選ばれます。私たちのものはベースビルドの行にあり、もう1回クリックする必要があります。
  • モデル全体をGPUで。 CUDAイメージでは、設定を一切変更せずにモデル全体がGPUに載り、コンテキスト長は8,192トークンでした。最初の速度測定値にはロード時間が含まれています。
  • アカウント不要、MIT。 ログインなしで直接ホームページが開きます。コード内にテレメトリーは見つかりませんでした。ライセンスはMITで、有料プランはありません。

改善点

  • 大きく、オペレーター向けに作られている。まず3.74ギガバイトのイメージがダウンロードされ、その後移動タグから1.92ギガバイトのバックエンドがダウンロードされる。署名はなく、2分間ずっと100%で沈黙が続く。50ページというのは多い。
  • PDF全体をそのまま、出典なし。チャット機能は、検索や出典表示を行わずにPDFの全文をメッセージに貼り付けるもので、スキャンされたPDFは受け付けない。これは数週間前のものだ。本当の検索にはAgentsとエンベディングモデルが必要である。

私たちの評価

条件付きで推奨

MITはアカウントもテレメトリも不要で、ギャラリーにある当社のモデルがGPU上で完全に動作した。しかし、鍵なしであらゆるネットワーク上で待ち受け、移動タグから署名されていないバックエンドを黙ってインストールする。オペレーター向けに作られている。

レビュー対象:LocalAI(自前ホスト、Docker)v4.11.0(CUDA 12イメージ)・事実確認日:2026年10月22日

視聴先:YouTube

どのツールがあなたの環境に合うかわからない? テクニカルアドバイス:購入を決める前にぜひご相談ください。ご状況をお知らせいただければ、2営業日以内に書面で回答いたします。

相談する →

← すべてのレビュー

発送されたらお知らせします

新リリース、実際のベンチマーク、時折の深掘り記事。スパムなし、ワンクリックで登録解除。

私たちが作るすべて