Alternativa de código aberto ao ChatGPT, um assistente de IA que funciona 100% offline no seu computador
Detalhes do Projeto Jan AI
Visão Geral do Projeto
Jan é uma alternativa de código aberto ao ChatGPT que pode ser executada 100% offline no seu computador. Desenvolvido e mantido pela Menlo Research, uma empresa de Singapura, o Jan visa fornecer aos usuários uma solução de assistente de IA totalmente privada e controlável.
Principais Recursos
🏠 Operação Local
- Operação 100% Offline: Executa modelos de IA sem necessidade de conexão com a internet, garantindo a privacidade e segurança.
- Armazenamento Local de Dados: Todas as conversas e arquivos são salvos localmente, dando ao usuário controle total sobre seus dados.
- Sem Taxas de Assinatura: Evita pagamentos recorrentes de serviços em nuvem; um único download para uso permanente.
🤖 Suporte a Modelos
- Modelos LLM Locais: Suporta o download e a execução de modelos como Llama, Gemma, Qwen, entre outros, do HuggingFace.
- Integração com a Nuvem: Pode se conectar a serviços em nuvem como OpenAI, Anthropic, Mistral, Groq, etc.
- Gerenciamento de Modelos: Oferece funcionalidades para navegar, baixar, importar e configurar modelos.
🛠 Recursos Técnicos
- API Compatível com OpenAI: O servidor local é executado em localhost:1337, sendo totalmente compatível com a API do OpenAI.
- Integração MCP: Suporta o Model Context Protocol, aprimorando as capacidades da IA.
- Suporte Multiplataforma: Compatível com sistemas Windows, macOS e Linux.
- Aceleração por GPU: Suporta GPUs NVIDIA CUDA, AMD Vulkan e Intel Arc.
🎯 Funcionalidades Avançadas
- Assistentes Personalizados: Crie assistentes de IA especializados para executar tarefas específicas.
- Conversa com Documentos: Permite interagir diretamente com documentos como PDFs e notas para obter resumos e insights.
- Sistema de Extensões: Suporta a personalização de funcionalidades através de plugins de extensão.
- Suporte a Múltiplos Motores: Compatível com vários motores de inferência, como llama.cpp, TensorRT-LLM, entre outros.
Requisitos do Sistema
Requisitos Mínimos de Configuração
- macOS: 13.6+ (8GB RAM para modelos 3B, 16GB para modelos 7B, 32GB para modelos 13B)
- Windows: 10+, com suporte a GPU NVIDIA/AMD/Intel Arc
- Linux: A maioria das distribuições, com aceleração por GPU opcional.
Requisitos do Ambiente de Desenvolvimento
- Node.js ≥ 20.0.0
- Yarn ≥ 1.22.0
- Make ≥ 3.81
- Rust (para o framework Tauri)
Métodos de Instalação
Método 1: Download da Versão Pré-compilada
Baixe o pacote de instalação para a sua plataforma em jan.ai ou GitHub Releases:
Plataforma | Versão Estável | Versão de Teste |
---|---|---|
Windows | jan.exe | jan.exe (nightly) |
macOS | jan.dmg | jan.dmg (nightly) |
Linux | jan.deb / jan.AppImage | jan.deb / jan.AppImage (nightly) |
Método 2: Compilação a Partir do Código Fonte
Construir com Make
git clone https://github.com/menloresearch/jan
cd jan
make dev
Usando a Toolchain mise
git clone https://github.com/menloresearch/jan
cd jan
# Instalar mise (se ainda não estiver instalado)
curl https://mise.run | sh
# Instalar ferramentas e iniciar o desenvolvimento
mise install # Instala ferramentas como Node.js, Rust, etc.
mise dev # Executa o ambiente de desenvolvimento completo
Construção Manual
yarn install
yarn build:core
yarn build:extensions
yarn dev
Principais Cenários de Uso
1. Cenários de Proteção de Privacidade
- Processamento de documentos sensíveis e informações confidenciais
- Ambientes com requisitos de conformidade
- Evitar vazamento de dados para servidores de terceiros
2. Ambiente de Trabalho Offline
- Ambientes com rede limitada ou instável
- Sistemas isolados (air-gapped systems)
- Trabalho de campo ou remoto
3. Controle de Custos
- Equipes que usam frequentemente funcionalidades de IA
- Evitar serviços em nuvem com pagamento por uso
- Usuários individuais ou pequenas equipes com orçamento limitado
4. Necessidades de Personalização
- Cenários que exigem ajuste fino de modelos específicos
- Assistentes de IA e fluxos de trabalho personalizados
- Integração em aplicações existentes
Arquitetura Técnica
Componentes Principais
- Jan Desktop: Aplicação de desktop multiplataforma baseada em Tauri
- Jan Core: Motor de inferência principal e gerenciamento de modelos
- Jan Extensions: Sistema de extensões, suportando vários conectores e ferramentas de IA
- Jan API Server: Servidor API local compatível com OpenAI
Ecossistema de Extensões
- Conectores de IA em Nuvem: OpenAI, Anthropic, Mistral, etc.
- Integração de Ferramentas: Automação de navegador, notebooks Jupyter, execução de código, etc.
- Conectores de Dados: Suporta várias fontes e formatos de dados
Licença de Código Aberto e Comunidade
- Licença: Licença de código aberto Apache 2.0
- Hospedagem de Código: Desenvolvimento público no GitHub
- Suporte da Comunidade: Comunidade ativa no Discord e seções de discussão no GitHub
- Guia de Contribuição: Contribuições da comunidade são bem-vindas, veja CONTRIBUINDO.md para detalhes.
Links Relacionados
- Site Oficial: https://jan.ai/
- Repositório GitHub: https://github.com/menloresearch/jan
- Centro de Documentação: https://jan.ai/docs
- Referência da API: https://jan.ai/api-reference
- Comunidade Discord: https://discord.gg/AsJ8krTT3N
- Registro de Alterações: https://jan.ai/changelog
Resumo
Jan AI é uma plataforma de assistente de IA de código aberto, poderosa e focada na privacidade, que oferece aos usuários uma solução completa para executar grandes modelos de linguagem localmente. Seja para usuários individuais ou equipes empresariais, o Jan permite uma experiência de IA altamente controlável, segura e privada, ao mesmo tempo que evita os custos e as preocupações com a privacidade dos serviços em nuvem.