مقدمة عن مشروع LightGBM

نظرة عامة على المشروع

LightGBM (آلة تعزيز التدرج الخفيف) هو إطار عمل لتعزيز التدرج يعتمد على خوارزميات شجرة القرار، ويستخدم للترتيب والتصنيف ومهام التعلم الآلي الأخرى. تم تطويره بواسطة Microsoft، ويهدف إلى توفير حلول تعزيز التدرج عالية الأداء والكفاءة واستهلاك الذاكرة المنخفض. يعتبر LightGBM مناسبًا بشكل خاص لمعالجة مجموعات البيانات واسعة النطاق والميزات عالية الأبعاد، وهو خيار شائع في مسابقات التعلم الآلي والتطبيقات الصناعية.

الخلفية

قد تواجه خوارزميات تعزيز التدرج التقليدية (مثل XGBoost) تحديات في السرعة والذاكرة عند معالجة البيانات واسعة النطاق. يهدف LightGBM إلى التغلب على هذه القيود من خلال إدخال تقنيات وتحسينات جديدة، وبالتالي تحقيق سرعة تدريب أسرع واستهلاك أقل للذاكرة ودقة أعلى.

الميزات الأساسية

• سرعة تدريب أسرع وكفاءة أعلى: يستخدم LightGBM خوارزمية قائمة على المدرج التكراري، والتي تقوم بتحويل قيم الميزات المستمرة إلى صناديق منفصلة، مما يسرع عملية التدريب.
• استهلاك أقل للذاكرة: تقلل خوارزمية المدرج التكراري أيضًا من استهلاك الذاكرة، خاصة عند معالجة الميزات عالية الأبعاد.
• دقة أعلى: يدعم LightGBM مجموعة متنوعة من دوال الخسارة ومقاييس التقييم، ويوفر خيارات ضبط المعلمات الغنية، مما يمكن أن يحقق دقة نموذج أعلى.
• دعم البيانات واسعة النطاق: يمكن لـ LightGBM معالجة مجموعات البيانات واسعة النطاق بكفاءة دون حدوث تجاوز للذاكرة أو اختناقات في الأداء.
• دعم التعلم المتوازي: يدعم LightGBM التوازي على مستوى الميزات والبيانات، ويمكنه الاستفادة من وحدات المعالجة المركزية متعددة النواة وموارد الحوسبة الموزعة لتسريع التدريب.
• دعم الميزات الفئوية: يمكن لـ LightGBM معالجة الميزات الفئوية مباشرةً دون الحاجة إلى ترميز one-hot، مما يوفر الذاكرة والوقت.
• دعم تسريع وحدة معالجة الرسومات (GPU): يدعم LightGBM استخدام وحدة معالجة الرسومات للتدريب، مما يمكن أن يزيد من سرعة التدريب.
• التوقف المبكر (Early Stopping): إيقاف التدريب مبكرًا لمنع التجاوز (Overfitting).
• نمو الشجرة من طرف الورقة (الأفضل أولاً) (Leaf-wise (Best-first) Tree Growth): على عكس استراتيجية نمو الشجرة على مستوى الطبقة (level-wise)، تختار استراتيجية طرف الورقة الورقة التي تقلل الخسارة بأكبر قدر لتقسيمها، وبالتالي تحقيق سرعة تقارب أسرع ودقة أعلى.

سيناريوهات التطبيق

يستخدم LightGBM على نطاق واسع في مختلف مهام التعلم الآلي، بما في ذلك:

• الترتيب: محركات البحث وأنظمة التوصية وما إلى ذلك.
• التصنيف: التعرف على الصور وتصنيف النصوص واكتشاف الاحتيال وما إلى ذلك.
• الانحدار: التنبؤ بالمبيعات وأسعار الأسهم وما إلى ذلك.
• التنبؤ بمعدل النقر (CTR): الإعلانات عبر الإنترنت وأنظمة التوصية وما إلى ذلك.
• تقييم المخاطر: التمويل والتأمين وما إلى ذلك.
• اكتشاف الحالات الشاذة: الأمن السيبراني وتشخيص أعطال المعدات وما إلى ذلك.

ملخص

LightGBM هو إطار عمل قوي وفعال لتعزيز التدرج، ومناسب لمختلف مهام التعلم الآلي. إن سرعة التدريب السريعة واستهلاك الذاكرة المنخفض والدقة العالية تجعله خيارًا مثاليًا لمعالجة مجموعات البيانات واسعة النطاق والميزات عالية الأبعاد.

جميع التفاصيل الدقيقة، يرجى الرجوع إلى الموقع الرسمي (https://github.com/microsoft/LightGBM)