开源的ChatGPT替代品,可在您的计算机上100%离线运行的AI助手

Apache-2.0TypeScriptjanmenloresearch 37.1k Last Updated: August 17, 2025

Jan AI 项目详细介绍

项目概述

Jan是一个开源的ChatGPT替代品,可以在您的计算机上100%离线运行。它由新加坡的Menlo Research公司开发和维护,旨在为用户提供一个完全私有、可自主控制的AI助手解决方案。

核心特性

🏠 本地化运行

  • 100%离线操作:无需网络连接即可运行AI模型,保证隐私安全
  • 本地数据存储:所有对话和文件都保存在本地,用户完全控制数据
  • 无订阅费用:避免云服务的重复付费,一次下载永久使用

🤖 模型支持

  • 本地LLM模型:支持下载和运行Llama、Gemma、Qwen等来自HuggingFace的模型
  • 云端集成:可连接OpenAI、Anthropic、Mistral、Groq等云服务
  • 模型管理:提供模型浏览、下载、导入和配置功能

🛠 技术特性

  • OpenAI兼容API:本地服务器运行在localhost:1337,与OpenAI API完全兼容
  • MCP集成:支持Model Context Protocol,增强AI能力
  • 多平台支持:支持Windows、macOS和Linux系统
  • GPU加速:支持NVIDIA CUDA、AMD Vulkan和Intel Arc GPU

🎯 高级功能

  • 自定义助手:创建专门化的AI助手来执行特定任务
  • 文档对话:可以与PDF、笔记等文档直接对话,获取摘要和洞察
  • 扩展系统:支持通过扩展插件自定义功能
  • 多引擎支持:兼容llama.cpp、TensorRT-LLM等多种推理引擎

系统要求

最低配置要求

  • macOS: 13.6+(3B模型需8GB RAM,7B模型需16GB,13B模型需32GB)
  • Windows: 10+,支持NVIDIA/AMD/Intel Arc GPU
  • Linux: 大多数发行版,可选GPU加速

开发环境要求

  • Node.js ≥ 20.0.0
  • Yarn ≥ 1.22.0
  • Make ≥ 3.81
  • Rust(用于Tauri框架)

安装方式

方式一:预编译版本下载

jan.aiGitHub Releases下载对应平台的安装包:

平台 稳定版 测试版
Windows jan.exe jan.exe (nightly)
macOS jan.dmg jan.dmg (nightly)
Linux jan.deb / jan.AppImage jan.deb / jan.AppImage (nightly)

方式二:源码编译

使用Make构建

git clone https://github.com/menloresearch/jan
cd jan
make dev

使用mise工具链

git clone https://github.com/menloresearch/jan
cd jan
# 安装mise(如果尚未安装)
curl https://mise.run | sh
# 安装工具并开始开发
mise install  # 安装Node.js、Rust等工具
mise dev      # 运行完整开发环境

手动构建

yarn install
yarn build:core
yarn build:extensions
yarn dev

主要使用场景

1. 隐私保护场景

  • 处理敏感文档和机密信息
  • 符合合规要求的环境
  • 避免数据泄露到第三方服务器

2. 离线工作环境

  • 网络受限或不稳定的环境
  • 空气隔离系统
  • 野外作业或远程工作

3. 成本控制

  • 频繁使用AI功能的团队
  • 避免按使用量付费的云服务
  • 预算有限的个人用户或小团队

4. 自定义需求

  • 需要特定模型微调的场景
  • 自定义AI助手和工作流
  • 集成到现有应用程序中

技术架构

核心组件

  • Jan Desktop:基于Tauri的跨平台桌面应用
  • Jan Core:核心推理引擎和模型管理
  • Jan Extensions:扩展系统,支持各种AI连接器和工具
  • Jan API Server:OpenAI兼容的本地API服务器

扩展生态系统

  • 云AI连接器:OpenAI、Anthropic、Mistral等
  • 工具集成:浏览器自动化、Jupyter笔记本、代码执行等
  • 数据连接器:支持各种数据源和格式

开源协议和社区

  • 许可证:Apache 2.0开源协议
  • 代码托管:GitHub上公开开发
  • 社区支持:活跃的Discord社区和GitHub讨论区
  • 贡献指南:欢迎社区贡献,详见CONTRIBUTING.md

相关链接

总结

Jan AI是一个功能强大、注重隐私的开源AI助手平台,为用户提供了在本地运行大型语言模型的完整解决方案。无论是个人用户还是企业团队,都可以通过Jan获得高度可控、安全私密的AI体验,同时避免云服务的成本和隐私担忧。

Star History Chart