Les Projets Open Source d'IA les Plus Prometteurs en 2025

Moteur d'inférence C++ léger et autonome développé par Google pour exécuter le grand modèle de langage Gemma.

Framework de réseau neuronal à quantification extrême 1-bit développé par Microsoft, permettant une inférence efficace des grands modèles de langage.

YOLOv5, un modèle de détection d'objets en temps réel de pointe basé sur PyTorch, prend en charge la détection d'objets, la segmentation d'images et les tâches de classification d'images.

YOLOv5, le modèle de détection d'objets en temps réel le plus avancé basé sur PyTorch, prend en charge la détection d'objets, la segmentation d'images et les tâches de classification d'images.

Bibliothèque d'inférence et d'entraînement accélérés avec des outils d'optimisation matérielle pour Transformers, Diffusers, TIMM et Sentence Transformers

Plateforme de déploiement de modèles d'apprentissage automatique à grande échelle basée sur Kubernetes, utilisée pour empaqueter, déployer, surveiller et gérer des milliers de modèles d'apprentissage automatique de niveau production.

Une boîte à outils de déploiement de modèles d'apprentissage profond et de grands modèles de langage rapide et facile à utiliser, prenant en charge le déploiement dans le cloud, sur mobile et en périphérie. Comprend plus de 20 scénarios courants et plus de 150 modèles SOTA dans les domaines de l'image, de la vidéo, du texte et de l'audio, avec une optimisation de bout en bout, une prise en charge multiplateforme et multiframework.

Runtime d'inférence d'apprentissage profond sensible à la parcimonie, conçu spécifiquement pour les CPU

Logiciel de service d'inférence open source offrant des solutions d'inférence optimisées dans le cloud et en périphérie.

LMDeploy est une boîte à outils pour la compression, le déploiement et le service de grands modèles de langage.

NVIDIA® TensorRT™ est un SDK pour l'inférence de deep learning haute performance sur les GPU NVIDIA. Ce dépôt contient les composants open source de TensorRT.

ncnn est un framework d'inférence de réseau neuronal haute performance optimisé pour les plateformes mobiles.

Portage C/C++ haute performance du modèle de reconnaissance vocale OpenAI Whisper, prenant en charge l'inférence CPU pure et le déploiement multiplateforme.

Bibliothèque d'inférence officielle du modèle Mistral, contenant l'implémentation de code minimal pour exécuter les modèles Mistral AI.

OpenVINO™ est une boîte à outils open source pour optimiser et déployer l'inférence IA, prenant en charge les applications d'apprentissage profond telles que la vision par ordinateur, la reconnaissance vocale automatique, l'IA générative et le traitement du langage naturel.

PowerInfer est un moteur d'inférence de modèles de langage de grande taille à haute vitesse, conçu pour un déploiement local. Il utilise l'activation parcimonieuse et une architecture hybride CPU/GPU pour réaliser une inférence LLM rapide sur du matériel grand public.

La manière la plus simple de déployer des applications et des services de modèles d'IA - Construire des API d'inférence de modèles, des files d'attente de tâches, des applications LLM, des pipelines multi-modèles, etc.

GPT4All : Application de chatbot IA open source pour exécuter des grands modèles de langage localement sur n'importe quel appareil

ONNX Runtime : un accélérateur d'inférence et d'entraînement de machine learning multiplateforme et haute performance.

MLC LLM : Compiler, optimiser et déployer localement n'importe quel LLM sur divers appareils.

MindSpore est un framework d'apprentissage profond multi-scènes conçu pour offrir aux développeurs une conception conviviale, une exécution efficace et une expérience de déploiement flexible. Il prend en charge le déploiement dans le cloud, en périphérie et côté terminal, et fournit une riche bibliothèque de modèles et d'outils pour faciliter le développement d'applications d'IA.

DeepSpeed-MII : Déployez et exécutez facilement de grands modèles d'IA avec le moteur d'optimisation DeepSpeed, pour une faible latence et un débit élevé.

OpenLLM : une plateforme ouverte pour construire, exécuter et déployer des grands modèles de langage en production.

Text Generation Inference (TGI) est une bibliothèque Rust pour le déploiement à grande échelle de modèles de génération de texte. Elle est conçue pour des performances élevées, une faible latence et une utilisation efficace des ressources, particulièrement adaptée aux environnements de production.

FastChat est une plateforme ouverte pour l'entraînement, le service et l'évaluation de grands modèles de langage.