開源的ChatGPT替代品,可在您的電腦上100%離線運行的AI助手

Apache-2.0TypeScriptjanmenloresearch 37.1k Last Updated: August 17, 2025

Jan AI 專案詳細介紹

專案概述

Jan 是一個開源的 ChatGPT 替代品,可以在您的電腦上 100% 離線運行。它由新加坡的 Menlo Research 公司開發和維護,旨在為用戶提供一個完全私有、可自主控制的 AI 助手解決方案。

核心特性

🏠 本地化運行

  • 100% 離線操作:無需網路連線即可運行 AI 模型,確保隱私安全
  • 本地資料儲存:所有對話和檔案都保存在本地,用戶完全控制資料
  • 無訂閱費用:避免雲端服務的重複付費,一次下載永久使用

🤖 模型支援

  • 本地 LLM 模型:支援下載和運行 Llama、Gemma、Qwen 等來自 HuggingFace 的模型
  • 雲端整合:可連接 OpenAI、Anthropic、Mistral、Groq 等雲端服務
  • 模型管理:提供模型瀏覽、下載、匯入和配置功能

🛠 技術特性

  • OpenAI 相容 API:本地伺服器運行在 localhost:1337,與 OpenAI API 完全相容
  • MCP 整合:支援 Model Context Protocol,增強 AI 能力
  • 多平台支援:支援 Windows、macOS 和 Linux 系統
  • GPU 加速:支援 NVIDIA CUDA、AMD Vulkan 和 Intel Arc GPU

🎯 進階功能

  • 自訂助手:建立專門化的 AI 助手來執行特定任務
  • 文件對話:可以與 PDF、筆記等文件直接對話,獲取摘要和洞察
  • 擴展系統:支援透過擴展外掛程式自訂功能
  • 多引擎支援:相容 llama.cpp、TensorRT-LLM 等多種推理引擎

系統要求

最低配置要求

  • macOS: 13.6+(3B 模型需 8GB RAM,7B 模型需 16GB,13B 模型需 32GB)
  • Windows: 10+,支援 NVIDIA/AMD/Intel Arc GPU
  • Linux: 大多數發行版,可選 GPU 加速

開發環境要求

  • Node.js ≥ 20.0.0
  • Yarn ≥ 1.22.0
  • Make ≥ 3.81
  • Rust(用於 Tauri 框架)

安裝方式

方式一:預編譯版本下載

jan.aiGitHub Releases 下載對應平台的安裝包:

平台 穩定版 測試版
Windows jan.exe jan.exe (nightly)
macOS jan.dmg jan.dmg (nightly)
Linux jan.deb / jan.AppImage jan.deb / jan.AppImage (nightly)

方式二:原始碼編譯

使用 Make 建置

git clone https://github.com/menloresearch/jan
cd jan
make dev

使用 mise 工具鏈

git clone https://github.com/menloresearch/jan
cd jan
# 安裝 mise(如果尚未安裝)
curl https://mise.run | sh
# 安裝工具並開始開發
mise install  # 安裝 Node.js、Rust 等工具
mise dev      # 運行完整開發環境

手動建置

yarn install
yarn build:core
yarn build:extensions
yarn dev

主要使用情境

1. 隱私保護情境

  • 處理敏感文件和機密資訊
  • 符合合規要求的環境
  • 避免資料洩露到第三方伺服器

2. 離線工作環境

  • 網路受限或不穩定的環境
  • 空氣隔離系統
  • 野外作業或遠端工作

3. 成本控制

  • 頻繁使用 AI 功能的團隊
  • 避免按使用量付費的雲端服務
  • 預算有限的個人用戶或小型團隊

4. 自訂需求

  • 需要特定模型微調的情境
  • 自訂 AI 助手和工作流程
  • 整合到現有應用程式中

技術架構

核心元件

  • Jan Desktop:基於 Tauri 的跨平台桌面應用程式
  • Jan Core:核心推理引擎和模型管理
  • Jan Extensions:擴展系統,支援各種 AI 連接器和工具
  • Jan API Server:OpenAI 相容的本地 API 伺服器

擴展生態系統

  • 雲端 AI 連接器:OpenAI、Anthropic、Mistral 等
  • 工具整合:瀏覽器自動化、Jupyter 筆記本、程式碼執行等
  • 資料連接器:支援各種資料來源和格式

開源協定與社群

  • 授權條款:Apache 2.0 開源協定
  • 程式碼託管:在 GitHub 上公開開發
  • 社群支援:活躍的 Discord 社群和 GitHub 討論區
  • 貢獻指南:歡迎社群貢獻,詳見 CONTRIBUTING.md

相關連結

總結

Jan AI 是一個功能強大、注重隱私的開源 AI 助手平台,為用戶提供了在本地運行大型語言模型的完整解決方案。無論是個人用戶還是企業團隊,都可以透過 Jan 獲得高度可控、安全私密的 AI 體驗,同時避免雲端服務的成本和隱私擔憂。

Star History Chart