Alternative open source à ChatGPT, un assistant IA qui fonctionne à 100% hors ligne sur votre ordinateur
Présentation Détaillée du Projet Jan AI
Aperçu du Projet
Jan est une alternative open-source à ChatGPT qui fonctionne 100% hors ligne sur votre ordinateur. Développé et maintenu par Menlo Research à Singapour, il vise à offrir aux utilisateurs une solution d'assistant IA entièrement privée et contrôlable.
Fonctionnalités Clés
🏠 Fonctionnement Local
- Fonctionnement 100% hors ligne : Exécute les modèles d'IA sans connexion internet, garantissant la confidentialité et la sécurité.
- Stockage local des données : Toutes les conversations et tous les fichiers sont stockés localement, l'utilisateur ayant un contrôle total sur ses données.
- Pas de frais d'abonnement : Évite les paiements récurrents des services cloud ; un téléchargement pour une utilisation permanente.
🤖 Prise en Charge des Modèles
- Modèles LLM locaux : Prend en charge le téléchargement et l'exécution de modèles comme Llama, Gemma, Qwen, etc., depuis HuggingFace.
- Intégration Cloud : Peut se connecter à des services cloud tels qu'OpenAI, Anthropic, Mistral, Groq.
- Gestion des modèles : Offre des fonctionnalités de navigation, de téléchargement, d'importation et de configuration des modèles.
🛠 Caractéristiques Techniques
- API compatible OpenAI : Le serveur local fonctionne sur localhost:1337, entièrement compatible avec l'API OpenAI.
- Intégration MCP : Prend en charge le Model Context Protocol, améliorant les capacités de l'IA.
- Prise en charge multiplateforme : Compatible avec les systèmes Windows, macOS et Linux.
- Accélération GPU : Prend en charge les GPU NVIDIA CUDA, AMD Vulkan et Intel Arc.
🎯 Fonctionnalités Avancées
- Assistants personnalisés : Créez des assistants IA spécialisés pour exécuter des tâches spécifiques.
- Conversation avec des documents : Permet de dialoguer directement avec des documents (PDF, notes, etc.) pour obtenir des résumés et des aperçus.
- Système d'extensions : Prend en charge la personnalisation des fonctionnalités via des plugins d'extension.
- Prise en charge de plusieurs moteurs : Compatible avec divers moteurs d'inférence tels que llama.cpp, TensorRT-LLM.
Configuration Requise
Configuration Minimale Requise
- macOS : 13.6+ (8 Go de RAM pour les modèles 3B, 16 Go pour les 7B, 32 Go pour les 13B)
- Windows : 10+, avec prise en charge des GPU NVIDIA/AMD/Intel Arc
- Linux : La plupart des distributions, accélération GPU optionnelle.
Exigences pour l'Environnement de Développement
- Node.js ≥ 20.0.0
- Yarn ≥ 1.22.0
- Make ≥ 3.81
- Rust (pour le framework Tauri)
Méthodes d'Installation
Méthode 1 : Téléchargement des Versions Précompilées
Téléchargez le package d'installation correspondant à votre plateforme depuis jan.ai ou GitHub Releases :
Plateforme | Version Stable | Version Bêta |
---|---|---|
Windows | jan.exe | jan.exe (nightly) |
macOS | jan.dmg | jan.dmg (nightly) |
Linux | jan.deb / jan.AppImage | jan.deb / jan.AppImage (nightly) |
Méthode 2 : Compilation à partir des Sources
Construction avec Make
git clone https://github.com/menloresearch/jan
cd jan
make dev
Utilisation de la chaîne d'outils mise
git clone https://github.com/menloresearch/jan
cd jan
# Installez mise (si ce n'est pas déjà fait)
curl https://mise.run | sh
# Installez les outils et commencez le développement
mise install # Installe Node.js, Rust, etc.
mise dev # Exécute l'environnement de développement complet
Construction Manuelle
yarn install
yarn build:core
yarn build:extensions
yarn dev
Principaux Cas d'Utilisation
1. Scénarios de Protection de la Vie Privée
- Traitement de documents sensibles et d'informations confidentielles
- Environnements conformes aux exigences réglementaires
- Éviter la fuite de données vers des serveurs tiers
2. Environnements de Travail Hors Ligne
- Environnements avec une connectivité réseau limitée ou instable
- Systèmes isolés (air-gapped)
- Travail sur le terrain ou à distance
3. Maîtrise des Coûts
- Équipes utilisant fréquemment les fonctionnalités d'IA
- Éviter les services cloud facturés à l'usage
- Utilisateurs individuels ou petites équipes avec un budget limité
4. Besoins de Personnalisation
- Scénarios nécessitant un réglage fin (fine-tuning) de modèles spécifiques
- Assistants IA et flux de travail personnalisés
- Intégration dans des applications existantes
Architecture Technique
Composants Clés
- Jan Desktop : Application de bureau multiplateforme basée sur Tauri
- Jan Core : Moteur d'inférence et gestion des modèles
- Jan Extensions : Système d'extensions, prenant en charge divers connecteurs et outils IA
- Jan API Server : Serveur API local compatible OpenAI
Écosystème d'Extensions
- Connecteurs IA Cloud : OpenAI, Anthropic, Mistral, etc.
- Intégration d'outils : Automatisation de navigateur, notebooks Jupyter, exécution de code, etc.
- Connecteurs de données : Prend en charge diverses sources et formats de données
Licence Open Source et Communauté
- Licence : Licence open source Apache 2.0
- Hébergement du code : Développement public sur GitHub
- Support Communautaire : Communauté Discord active et discussions GitHub
- Guide de Contribution : Les contributions de la communauté sont les bienvenues, voir CONTRIBUTING.md pour plus de détails.
Liens Utiles
- Site Officiel : https://jan.ai/
- Dépôt GitHub : https://github.com/menloresearch/jan
- Centre de Documentation : https://jan.ai/docs
- Référence API : https://jan.ai/api-reference
- Communauté Discord : https://discord.gg/AsJ8krTT3N
- Journal des Modifications : https://jan.ai/changelog
Résumé
Jan AI est une plateforme d'assistant IA open source puissante et axée sur la confidentialité, offrant aux utilisateurs une solution complète pour exécuter des modèles de langage volumineux localement. Que ce soit pour les utilisateurs individuels ou les équipes d'entreprise, Jan permet une expérience IA hautement contrôlable, sécurisée et privée, tout en évitant les coûts et les préoccupations de confidentialité liés aux services cloud.