Alternativa de código abierto a ChatGPT, un asistente de IA que se ejecuta 100% sin conexión en tu ordenador
Descripción Detallada del Proyecto Jan AI
Resumen del Proyecto
Jan es una alternativa de código abierto a ChatGPT que puede ejecutarse 100% sin conexión en su ordenador. Desarrollado y mantenido por Menlo Research en Singapur, tiene como objetivo proporcionar a los usuarios una solución de asistente de IA completamente privada y autónoma.
Características Principales
🏠 Ejecución Local
- Operación 100% sin conexión: Ejecuta modelos de IA sin necesidad de conexión a internet, garantizando la privacidad y seguridad.
- Almacenamiento de datos local: Todas las conversaciones y archivos se guardan localmente, el usuario tiene control total sobre sus datos.
- Sin cuotas de suscripción: Evita los pagos recurrentes de los servicios en la nube; una descarga para uso permanente.
🤖 Soporte de Modelos
- Modelos LLM locales: Soporta la descarga y ejecución de modelos como Llama, Gemma, Qwen, entre otros, desde HuggingFace.
- Integración en la nube: Puede conectarse a servicios en la nube como OpenAI, Anthropic, Mistral, Groq, etc.
- Gestión de modelos: Ofrece funciones para explorar, descargar, importar y configurar modelos.
🛠 Características Técnicas
- API compatible con OpenAI: El servidor local se ejecuta en localhost:1337 y es totalmente compatible con la API de OpenAI.
- Integración MCP: Soporta el Protocolo de Contexto de Modelo (Model Context Protocol), mejorando las capacidades de IA.
- Soporte multiplataforma: Compatible con sistemas Windows, macOS y Linux.
- Aceleración GPU: Soporta GPU NVIDIA CUDA, AMD Vulkan e Intel Arc.
🎯 Funciones Avanzadas
- Asistentes personalizados: Crea asistentes de IA especializados para ejecutar tareas específicas.
- Conversación con documentos: Permite interactuar directamente con documentos como PDF, notas, etc., para obtener resúmenes e información.
- Sistema de extensiones: Soporta la personalización de funciones a través de plugins de extensión.
- Soporte multi-motor: Compatible con varios motores de inferencia como llama.cpp, TensorRT-LLM, entre otros.
Requisitos del Sistema
Requisitos Mínimos de Configuración
- macOS: 13.6+ (8GB de RAM para modelos de 3B, 16GB para 7B, 32GB para 13B)
- Windows: 10+, con soporte para GPU NVIDIA/AMD/Intel Arc.
- Linux: La mayoría de las distribuciones, con aceleración GPU opcional.
Requisitos del Entorno de Desarrollo
- Node.js ≥ 20.0.0
- Yarn ≥ 1.22.0
- Make ≥ 3.81
- Rust (para el framework Tauri)
Métodos de Instalación
Método 1: Descarga de la Versión Precompilada
Descargue el paquete de instalación para su plataforma desde jan.ai o GitHub Releases:
Plataforma | Versión Estable | Versión de Prueba (Nightly) |
---|---|---|
Windows | jan.exe | jan.exe (nightly) |
macOS | jan.dmg | jan.dmg (nightly) |
Linux | jan.deb / jan.AppImage | jan.deb / jan.AppImage (nightly) |
Método 2: Compilación desde el Código Fuente
Construcción con Make
git clone https://github.com/menloresearch/jan
cd jan
make dev
Uso de la cadena de herramientas mise
git clone https://github.com/menloresearch/jan
cd jan
# Instalar mise (si aún no está instalado)
curl https://mise.run | sh
# Instalar herramientas e iniciar el desarrollo
mise install # Instala herramientas como Node.js, Rust, etc.
mise dev # Ejecuta el entorno de desarrollo completo
Construcción Manual
yarn install
yarn build:core
yarn build:extensions
yarn dev
Casos de Uso Principales
1. Escenarios de Protección de la Privacidad
- Procesamiento de documentos sensibles e información confidencial.
- Entornos que requieren cumplimiento normativo.
- Evitar la fuga de datos a servidores de terceros.
2. Entornos de Trabajo sin Conexión
- Entornos con conectividad de red limitada o inestable.
- Sistemas aislados (air-gapped systems).
- Trabajo de campo o remoto.
3. Control de Costos
- Equipos que utilizan funciones de IA con frecuencia.
- Evitar servicios en la nube con pago por uso.
- Usuarios individuales o pequeños equipos con presupuesto limitado.
4. Requisitos de Personalización
- Escenarios que requieren ajuste fino de modelos específicos.
- Asistentes de IA y flujos de trabajo personalizados.
- Integración en aplicaciones existentes.
Arquitectura Técnica
Componentes Principales
- Jan Desktop: Aplicación de escritorio multiplataforma basada en Tauri.
- Jan Core: Motor de inferencia central y gestión de modelos.
- Jan Extensions: Sistema de extensiones que soporta varios conectores y herramientas de IA.
- Jan API Server: Servidor API local compatible con OpenAI.
Ecosistema de Extensiones
- Conectores de IA en la nube: OpenAI, Anthropic, Mistral, etc.
- Integración de herramientas: Automatización de navegador, notebooks Jupyter, ejecución de código, etc.
- Conectores de datos: Soporte para diversas fuentes y formatos de datos.
Licencia de Código Abierto y Comunidad
- Licencia: Licencia de código abierto Apache 2.0.
- Alojamiento de código: Desarrollo público en GitHub.
- Soporte comunitario: Comunidad activa en Discord y foros de discusión en GitHub.
- Guía de contribución: Se agradecen las contribuciones de la comunidad; consulte CONTRIBUTING.md para más detalles.
Enlaces Relacionados
- Sitio web oficial: https://jan.ai/
- Repositorio de GitHub: https://github.com/menloresearch/jan
- Centro de documentación: https://jan.ai/docs
- Referencia de la API: https://jan.ai/api-reference
- Comunidad de Discord: https://discord.gg/AsJ8krTT3N
- Registro de cambios: https://jan.ai/changelog
Resumen
Jan AI es una plataforma de asistente de IA de código abierto, potente y centrada en la privacidad, que ofrece a los usuarios una solución completa para ejecutar modelos de lenguaje grandes localmente. Tanto usuarios individuales como equipos empresariales pueden obtener una experiencia de IA altamente controlable, segura y privada con Jan, evitando al mismo tiempo los costos y las preocupaciones de privacidad de los servicios en la nube.