拥有属于自己的AI服务器，内置模型库
在Linux上经过测试 · 免费 · 开源
LocalAI是一款可在您的硬件上运行开放模型的免费服务器，提供OpenAI、Anthropic和Ollama API。我们在Linux上测试了其CUDA 12 Docker镜像，在RTX 4060 Ti上运行Qwen3.5 9B。
MIT：无需账户、无遥测，其图库中的我们的模型完全在GPU上运行。但它无需密钥即监听所有网络，还会通过可变标签悄悄安装未经签名的后端。面向运维人员。
已审核：LocalAI（自托管，Docker）v4.11.0（CUDA 12镜像）· 事实核查日期：2026-10-22
不确定哪种工具适合你的环境？ 技术建议：花钱之前先来问问我们。描述你的情况，我们将在两个工作日内书面答复。
问我们 →听写、转录和翻译，全部在您自己的设备上运行。一次购买，终身使用。
面向 AI 智能体的记忆——记录、规则、完整的决策历史与决策图谱，在会话开始时便已就绪。在你提问之前，它已给出答案。
告诉我们您的需求，我们将在两个工作日内书面答复。
我们的YouTube频道。一位“网络老虎”主持人将为大家介绍各类本地化AI工具及其实际功能。
软件与人工智能工具的短视频评测：在镜头前实际使用，给出花钱也买不到的结论。
精心整理的GitHub列表，涵盖AI编程代理、MCP服务器、本地AI以及用于AI开发的Linux相关内容。每条条目都附有来源链接。