فهم التعبئة والغابات العشوائية
أخذ متوسط تقديرات مستقلة يخفض التباين: فمتوسط تنبؤات ضوضائية كثيرة أثبت من أيّ واحد منها. وتستثمر التعبئة، اختصارًا للتجميع بإعادة العيّنة، هذا دون حاجة إلى مجموعات بيانات متعددة. فهي تسحب عيّنات بوتستراب متكررة، تتكوّن كل منها بالسحب من بيانات التدريب مع الإرجاع، وتلائم نموذجًا لكلٍّ منها، ثم تأخذ متوسط التنبؤات، أو تصويتًا بالأغلبية في التصنيف.
والمكسب متوقف كليًا على كون المتعلِّم الأساس غير مستقر. فأخذ متوسط نماذج شبه متطابقة لا يحقق شيئًا. وأشجار القرار المنمّاة بالكامل مثالية: تحيّز منخفض وتباين مرتفع، وهو بالضبط الملمح الذي يحسّنه المتوسط، إذ يكبح الإجراءُ التباينَ ويترك التحيّز على حاله جوهريًا.
وتعالج الغابات العشوائية ما تبقّى من ضعف التعبئة. فعيّنات البوتستراب من مجموعة البيانات نفسها متشابهة، فإن كان أحد المتنبِّئات مهيمنًا بقوة انقسمت عليه أولًا كلُّ شجرة تقريبًا فانتهت الأشجار شديدة الارتباط. والأخطاء المترابطة لا يلغي بعضها بعضًا. والعلاج هو النظر في مجموعة جزئية عشوائية من السمات فقط كمرشحات عند كل انقسام، ما يُجبر أشجارًا مختلفة على الاعتماد على متنبِّئات مختلفة ويخفض الارتباط بينها.
وتوفّر التجميعة كذلك تحققًا مجانيًا. فكل عيّنة بوتستراب تُغفل نحو ثلث المشاهدات، ويمكن التنبؤ بكل مشاهدة باستخدام الأشجار التي لم ترها وحدها. وتجميع هذه التنبؤات خارج الحقيبة يعطي تقديرًا لخطأ الاختبار دون مجموعة محجوبة منفصلة. وكلفة المنهج كله هي قابلية التفسير: فالشجرة الواحدة تُقرأ، والمئات لا تُقرأ، ولذلك تُستخدم مقاييس الأهمية ومخططات الاعتماد الجزئي بدلًا من ذلك.
مثال على التعبئة والغابات العشوائية
شجرة عميقة واحدة مُلاءَمة على مجموعة بيانات قد تبلغ دقة تدريب 100% ودقة اختبار 72%، وهي البصمة الكلاسيكية لفرط الملاءمة. وتعبئة 500 شجرة كهذه ترفع دقة الاختبار رفعًا ملموسًا عادةً مع إبقاء دقة التدريب مرتفعة، لأن أخذ المتوسط يلغي الأخطاء الخاصة بكل شجرة.
لنفترض أن سمة واحدة أقوى تنبؤًا من سائر السمات بكثير. في التعبئة المجردة تنقسم كل شجرة تقريبًا عليها عند الجذر، فتصير الأشجار نسخًا متقاربة ولا تكاد التجميعة تتفوق على شجرة واحدة. أما الغابة العشوائية التي تقصر كل انقسام على مجموعة جزئية عشوائية من السمات فتُجبر معظم الأشجار على إيجاد بنية بديلة.
وحجم تلك المجموعة الجزئية هو مقبض الضبط الرئيسي. فالمجموعات الأصغر تعطي فكّ ارتباط أكبر لكن أشجارًا مفردة أضعف؛ والأكبر تقترب من التعبئة المجردة. والقيم الافتراضية الشائعة هي الجذر التربيعي لعدد السمات في التصنيف ونحو الثلث في الانحدار، تُضبَط بالتحقق المتقاطع أو بتقدير خارج الحقيبة.
الأسئلة الشائعة
هل تسبّب إضافة مزيد من الأشجار فرط ملاءمة؟
لا. فخطأ الاختبار ينخفض ثم يستوي مع إضافة الأشجار، ولا يرتفع. وعدد الأشجار ميزانية حوسبة لا معامل تعقيد. أما فرط الملاءمة في الغابة فيُضبط بعمق الأشجار وحجم المجموعة الجزئية من السمات.
ما تقدير الخطأ خارج الحقيبة؟
كل عيّنة بوتستراب تترك نحو ثلث المشاهدات خارجها. والتنبؤ بكل مشاهدة باستخدام الأشجار التي لم تتدرب عليها وحدها يعطي تقدير تحقق دون كلفة حسابية إضافية، وهو ما يغني كثيرًا عن تحقق متقاطع منفصل.
كيف تختلف الغابات العشوائية عن التعزيز؟
تلائم الغابات العشوائية أشجارًا مستقلة على التوازي وتأخذ متوسطها، مستهدفةً التباين. أما التعزيز فيلائم الأشجار تباعًا، تصحّح كلٌّ منها أخطاء التجميعة السابقة، مستهدفًا التحيّز. وقد يبلغ التعزيز دقة أعلى لكنه أشد حساسية للضوضاء وللمعاملات الفائقة.
الخلاصة
تحوّل التعبئة عدمَ استقرار الأشجار العميقة إلى ميزة بأخذ المتوسط على عيّنات بوتستراب، وتقوّي الغابات العشوائية الأثر بفكّ ارتباط الأشجار عبر مجموعات سمات عشوائية. والنتيجة خيار افتراضي قوي قليل الصيانة، على حساب قابلية تفسير الشجرة الواحدة.