OpenVINO™ هي مجموعة أدوات مفتوحة المصدر لتحسين ونشر الاستدلال بالذكاء الاصطناعي، تدعم تطبيقات التعلم العميق مثل رؤية الكمبيوتر والتعرف التلقائي على الكلام والذكاء الاصطناعي التوليدي ومعالجة اللغة الطبيعية.
PowerInfer هو محرك استدلال سريع للنماذج اللغوية الكبيرة، مصمم خصيصًا للنشر المحلي، ويستخدم التنشيط المتفرق وهيكل CPU/GPU المختلط لتحقيق استدلال LLM سريع على أجهزة المستهلك.
تنفيذ خادم بروتوكول سياق النموذج (MCP) الذي يوفر وظائف قاعدة البيانات لـ Chroma، ويدعم إمكانات استرجاع بيانات الذكاء الاصطناعي مثل البحث عن المتجهات والبحث عن النص الكامل وتصفية البيانات الوصفية.