تخطّي إلى المحتوى
Kudos AI

شجرة القرار

نموذج يتنبأ بتطبيق سلسلة من اختبارات العتبة على سمات مفردة، فيقسّم البيانات إلى مجموعات متزايدة التجانس.

يُعرف أيضاً باسم: CART, شجرة التصنيف والانحدار

فهم شجرة القرار

تقسّم شجرة القرار فضاء السمات بطرح سؤال واحد في كل مرة. فكل عقدة داخلية تختبر سمة واحدة مقابل عتبة، وكل فرع يتبع إجابة، وكل ورقة تصدر تنبؤًا: الفئة الأكثر تكرارًا في التصنيف أو متوسط الاستجابة في الانحدار. والتنبؤ ليس إلا مسيرًا من الجذر إلى ورقة.

والملاءمة جشعة. فعند كل عقدة تنظر الخوارزمية في انقسامات مرشّحة وتأخذ ما يحسّن نقاء المجموعات الناتجة أكثر من سواه، مقيسًا بمكسب المعلومات أو شائبة جيني أو انخفاض التباين. ثم تعاود الكرّة على كل ابن. والجشع مهم: فالانقسام الأفضل محليًا لا يلزم أن ينتمي إلى أفضل شجرة إجمالًا، وإيجاد الشجرة المثلى عالميًا عسير حسابيًا.

وإن تُركت العودية بلا ضابط استمرت حتى تصير كل ورقة نقية، فتنتج شجرة تحفظ بيانات التدريب وتعمّم رداءةً. ويأتي الضبط من تحديد العمق، أو اشتراط حدّ أدنى من المشاهدات لكل ورقة، أو تنمية الشجرة كاملةً ثم تقليم الفروع التي لا تبرّر نفسها على بيانات محجوبة.

والحدّ الأعمق هو عدم الاستقرار. فلأن الانقسام القريب من الجذر يحدّد كل ما تحته، قد يختار تغيّر صغير في عينة التدريب انقسامًا جذريًا مختلفًا فينتج شجرة مغايرة تمامًا. وهذا التباين المرتفع هو الضعف المحدَّد الذي صُمّمت طرق التجميع لإزالته، بأخذ متوسط أشجار كثيرة مُلاءَمة على نسخ مضطربة من البيانات.

مثال على شجرة القرار

شجرة تتنبأ بالتعثر عن السداد قد تختبر أولًا ما إذا كان الدخل دون 30,000. وعلى فرع الدخل المنخفض قد تختبر بعد ذلك ما إذا كانت نسبة الدين إلى الدخل تفوق 0.4، لتبلغ ورقة تتنبأ بالتعثر. وعلى فرع الدخل المرتفع قد تختبر بدلًا من ذلك طول تاريخ الائتمان.

والمسار نفسه هو التفسير: «دخل دون 30,000 ونسبة دين إلى دخل فوق 0.4» قاعدة تُقرأ مباشرةً من الشجرة وتُقال لمن لا تدريب إحصائي له. وقليل جدًا من عائلات النماذج يقدّم هذا.

ولاحظ أن الشجرة استعملت سؤالًا ثانيًا مختلفًا على كل فرع. وهذا تفاعل حقيقي: فأهمية نسبة الدين إلى الدخل تتوقف على مستوى الدخل. تلتقط الأشجار مثل هذه التفاعلات تلقائيًا، بينما يحتاج النموذج الخطي إلى تحديدها سلفًا في صورة حدود جداء صريحة.

المزايا والعيوب

المزايا

  • قابلة للتفسير مباشرةً؛ فمسار القرار قاعدة يقرأها الإنسان.
  • تتعامل مع السمات العددية والفئوية معًا، دون حاجة إلى إعادة قياس.
  • تلتقط التفاعلات والبنية غير الخطية دون هندسة سمات يدوية.

العيوب

  • تباين مرتفع: تغيّرات صغيرة في البيانات قد تنتج شجرة مختلفة كليًا.
  • تفرط في الملاءمة بسهولة ما لم يُقيَّد العمق أو تُقلَّم الشجرة.
  • الشجرة المفردة أقل دقة عادةً من تجميعة أشجار.

الأسئلة الشائعة

ما الفرق بين شائبة جيني والإنتروبيا كمعيارَي انقسام؟

كلاهما يقيس مدى اختلاط الفئات عند عقدة، وكلاهما يبلغ أدناه عند العقد النقية. تستخدم الإنتروبيا لوغاريتمًا، وجيني مجموع نسب مربّعة، فجيني أرخص قليلًا حسابيًا. وعمليًا نادرًا ما ينتجان شجرتين مختلفتين اختلافًا ذا معنى.

لماذا لا تحتاج أشجار القرار إلى إعادة قياس السمات؟

الانقسامات مقارنات عتبة على سمة واحدة في كل مرة، وأي إعادة قياس رتيبة تُبقي الترتيب، ومن ثمّ الانقسامات المتاحة، كما هو. وهذا نقيض حادّ للطرق القائمة على المسافة أو على المعاقبة، حيث يؤثر المقياس في النتيجة مباشرةً.

ما التقليم؟

تنمية شجرة كبيرة عن قصد ثم إزالة الفروع التي لا تستحق تعقيدها، بالحكم على بيانات محجوبة. والتنمية الكبيرة أولًا ثم القصّ تتفوق عمومًا على التوقف المبكر، لأن انقسامًا ضعيفًا قد يفضي مع ذلك إلى انقسام قوي تحته.

الخلاصة

شجرة القرار سلسلة جشعة من اختبارات السمات، سهلة القراءة على نحو غير معتاد وغير مستقرة على نحو غير معتاد. وعدم الاستقرار هذا هو تحديدًا ما تستثمره الغابات العشوائية والتعزيز، بأخذ متوسط أشجار كثيرة للاحتفاظ بالمرونة مع طرح التباين.