Đánh giá về Brethof AI

LocalAI (tự lưu trữ, Docker) đánh giá

Máy chủ AI riêng của bạn, với thư viện mô hình tích hợp sẵn

Không được tài trợModels & Cơ sở hạ tầng AI

Đã thử nghiệm trên Linux · Miễn phí · Mã nguồn mở

LocalAI là một máy chủ miễn phí chạy các mô hình mở trên phần cứng của bạn, với các API OpenAI, Anthropic và Ollama. Chúng tôi đã chạy ảnh CUDA 12 Docker trên Linux, với Qwen3.5 9B trên RTX 4060 Ti.

Điểm tốt

  • Mô hình của chúng tôi có trong thư viện. Mô hình chính xác của chúng tôi nằm trong thư viện, nhưng nút Cài đặt chính chọn biến thể nhanh hơn. Mô hình của chúng tôi ở hàng bản BaseBuild, cần thêm một lần nhấp.
  • Toàn bộ mô hình trên GPU. Với ảnh CUDA, toàn bộ mô hình được nạp lên GPU, ngữ cảnh 8.192 token, không cần chỉnh gì. con số tốc độ đầu tiên của nó tính cả thời gian tải.
  • Không cần tài khoản, MIT. Nó mở thẳng tới trang chủ, không cần đăng nhập. Không tìm thấy telemetry nào trong mã của nó. Nó được cấp phép MIT, không có gói trả phí.

Điểm chưa tốt

  • Làm lớn, dành cho người vận hành. Hai tệp tải về lớn đến trước: một ảnh 3,74 gigabyte, rồi một backend 1,92 gigabyte từ tag động, chưa ký, im lặng ở mức 100% trong hai phút. Năm mươi trang là quá nhiều.
  • Toàn bộ PDF, không trích nguồn. Khung chat dán toàn bộ văn bản PDF vào tin nhắn của bạn, không có truy xuất hay trích nguồn, và từ chối PDF scan. Tính năng mới xuất hiện vài tuần. Để có truy xuất thực sự cần Agents và một mô hình embedding.

Kết luận của chúng tôi

Đề xuất kèm lưu ý

MIT: không cần tài khoản, không telemetry, và mô hình chính xác của chúng tôi trong thư viện chạy hoàn toàn trên GPU. Nhưng nó lắng nghe trên mọi mạng không cần khóa, và âm thầm cài đặt một backend chưa ký từ tag động. Dành cho người vận hành.

Đã đánh giá: LocalAI (tự lưu trữ, Docker) phiên bản 4.11.0 (ảnh CUDA 12) · thông tin đã kiểm tra ngày 22-10-2026

Xem trênYouTube

Chưa chắc công cụ nào phù hợp với hệ thống của bạn? Tư vấn kỹ thuật: hãy hỏi chúng tôi trước khi bạn chi tiền. Hãy mô tả tình hình của bạn và bạn sẽ nhận được câu trả lời bằng văn bản trong vòng hai ngày làm việc.

Hỏi chúng tôi →

← Tất cả các đánh giá

Nghe thấy khi nó được phát hành

Bản phát hành mới, điểm chuẩn thực tế và đôi khi là phân tích chuyên sâu. Không spam, hủy đăng ký chỉ một cú nhấp chuột.

Mọi thứ chúng tôi tạo ra