التعلّم غير المُشرَف عليه: بنية بلا وسوم

كل طريقة رأيناها حتى الآن كان لها استجابة تُتنبَّأ، وكانت تلك الاستجابة تعمل أكثر ممّا يبدو. فهي تحدّد ما الذي يقدّره النموذج، وتمنح الخطأ المحجوز معنًى، وتحسم كل قرار في ضبط المعالم بالتحقّق المتقاطع. فإذا أزلتها ذهبت الثلاثة دفعةً واحدة.

والتعلّم غير المُشرَف عليه هو ما يتبقّى: $X$ وحده، والسؤال عن البنية التي يحويها. ويغطّي هذا المقال الأجوبة المعياريّة الثلاثة، ويظلّ صريحًا من أوّله إلى آخره في شأن ما يجعلها أعسر استعمالًا من كل ما سبق: إذ لا شيء تُراجَع في مقابله.

أ. المكوّنات الرئيسة: اتّجاه التباين الأقصى

المكوّنة الرئيسة الأولى هي التركيبة الخطّية المُعيَّرة

$$Z_1 = \phi_{11}X_1 + \dots + \phi_{p1}X_p, \qquad \sum_{j=1}^{p}\phi_{j1}^2 = 1,$$

صاحبة أكبر تباين. وللقيد وزن حقيقي: فلولاه لأمكنك مضاعفة كل $\phi_{j1}$، فيتربّع التباين أربع مرّات، وتعيد ذلك بلا حدّ - فلا توجد نهاية عظمى. وتثبيت المعيار عند الواحد يجعل السؤال في الاتّجاه.

وثمّة توصيف ثانٍ مكافئ يستحقّ الحفظ، لأنه هو الذي يجعل التحليل هندسيًا لا جبريًا: فهذا الاتّجاه نفسه هو المستقيم الأقرب إلى المشاهدات الـ$n$ كلّها، بمقياس مربّعات المسافات العموديّة. فالتباين الكلّي مثبَّت، وما تعجز الإسقاطات عن التقاطه يبقى مسافةً إلى المستقيم - فتعظيم أحدهما وتصغير الآخر مسألة واحدة.

مثال محلول

ستّ مشاهدات على متغيّرتين:

$$X = \begin{bmatrix} 2&0\\ 3&1\\ 4&3\\ 5&4\\ 6&7\\ 4&2 \end{bmatrix}, \qquad S = \begin{bmatrix} 2.0000 & 3.4000 \\ 3.4000 & 6.1667 \end{bmatrix} .$$

والقيم الذاتيّة لـ$S$ هي $\lambda_1 = 8.0708$ و$\lambda_2 = 0.0958$، ومتّجه التحميلات الأول $\phi_1 = (0.4886,\ 0.8725)$. وإسقاط البيانات المُمركَزة على $\phi_1$ يعطي درجات تباينها $8.0708$ - فالقيمة الذاتيّة هي التباين الذي تلتقطه مكوّنتها، ولهذا تُقرأ نسبة التباين المفسَّر مباشرةً:

$$\text{PVE}_1 = \frac{8.0708}{8.1667} = 0.9883 .$$

فاتّجاه واحد يحمل 98.83٪ من التباين. ومخطّط الركام يرتّبها والنصيحة المعتادة أن تبحث عن مِرفق - وهو حكم بالعين لا اختبار. فلا قاعدة موضوعيّة متّفقًا عليها على نطاق واسع لتقرير كم مكوّنة تُبقي، وهذا أول موضع يُحَسّ فيه بغياب الاستجابة.

التحميلات ليست الدرجات. فالتحميل يقول كم تُسهم المتغيّرة في مكوّنة وهو ملك لمجموعة البيانات كلّها؛ والدرجة تقول أين تقع المشاهدة على امتدادها. والخلط بينهما أشيع سبل إساءة قراءة مخرجات التحليل.

كما أن التحليل لا يثبت تحت تغيير المقياس. فالتباين يحمل مربّع الوحدات، فتسجيل طول بالمليمترات بدل الأمتار يضرب تباينه في $10^6$ ويهب تلك المتغيّرة المكوّنة الأولى لا لسبب إلا اختيار المسطرة. فوحّد قياس كل متغيّرة إلى انحراف معياري واحد - إلا إذا كانت المتغيّرات تشترك في الوحدات أصلًا وكانت تبايناتها المختلفة ذات دلالة حقيقيّة، فحينئذٍ يُهدر التعيير معلومةً حقيقيّة.

ب. خوارزميّة المتوسّطات K، والنهاية المحلّية التي تستقرّ عندها

تقسّم الخوارزميّة المشاهدات إلى $K$ عنقودًا شاملة غير متداخلة، مُصغِّرةً مجموع التباين داخل العنقود

$$W(C_k) = \frac{1}{|C_k|}\sum_{i,\,i' \in C_k}\ \sum_{j=1}^{p}\big(x_{ij} - x_{i'j}\big)^2 .$$

والقسمة على $|C_k|$ مهمّة: فعنقود من $m$ نقطة فيه $m^2$ زوجًا مرتّبًا، ومجموع غير مقسوم يعاقب العناقيد الكبيرة على حجمها لا على تشتّتها.

وطرق إسناد $n$ مشاهدة إلى $K$ عنقودًا موسومًا عددها $K^n$، وعدد التقسيمات المتمايزة بعد تجاهل الوسوم نحو $K^n/K!$، فالمسألة المضبوطة لا تُحلّ بل تُقارَب. والخوارزميّة تُسنِد عشوائيًا ثم تناوب: تحسب مركز كل عنقود، وتعيد إسناد كل مشاهدة إلى أقربها. وتتقارب لأن أيًّا من الخطوتين لا يستطيع رفع الهدف - فالمركز يُصغّر مربّعات الانحرافات، ونقل نقطة إلى مركز أقرب لا يزيد الأمر سوءًا - ولأن التقسيمات متناهية العدد.

تتقارب. وليس ذلك كالإصابة.

خذ سبع نقاط و$K = 3$:

$$\{\,1,\ 2,\ 3,\ 10,\ 11,\ 20,\ 21\,\}$$

والبحث الشامل في الإسنادات $3^7 = 2187$ يعطي النهاية الصغرى الشاملة $\{1,2,3\}$ و$\{10,11\}$ و$\{20,21\}$ عند $\sum_k W(C_k) = 6.0$.

والآن ابدأ من $\{1,2,3,10,11\}$ و$\{20\}$ و$\{21\}$. المراكز $5.4$ و$20$ و$21$، وكل نقطة مُسنَدة سلفًا إلى أقربها: فلا يغيّر المرور الأول شيئًا، وتتوقّف الخوارزميّة فورًا مُبلّغةً

$$\textstyle\sum_k W(C_k) = 178.4 ,$$

أي أسوأ بنحو ثلاثين ضعفًا. ولا خلل: فالتقارب إلى نهاية محلّية كل ما تَعِد به الطريقة، والإخفاق صامت.

ولهذا تُشغَّل الخوارزميّة مرّاتٍ كثيرة من بدايات مختلفة ويُحتفَظ بأفضل نتيجة. وهذا جزء من الطريقة لا تحسين لوقت الفراغ. كما أن $K$ لا يمكن أن يختاره الهدف، إذ يهبط هبوطًا رتيبًا كلّما ارتفع $K$ ويبلغ الصفر حين تصير كل مشاهدة عنقودًا بذاتها.

ج. العنقدة الهرميّة، والوصل الذي يقرّر الجواب

العنقدة التجميعيّة ترفع الالتزام بـ$K$: ابدأ بكل مشاهدة وحدها، وادمج مرارًا العنقودين الأقلّ تباينًا، وسجّل ارتفاع كل دمج. وقطع مخطّط الشجرة الناتج أفقيًا يعطي عنقدة: فالشجرة الواحدة تحوي جوابًا لكل $K$.

وثمّة تحذيران. أولهما أن العنقدات متداخلة بحكم البناء - فإن لم يكن التجميع الحقيقي كذلك فلن يستردّه أي قطع. وثانيهما إساءة القراءة المعتادة: فارتفاع الدمج وحده يقيس التشابه. أما الموضع الأفقي فلا يعني شيئًا، وقد لا تندمج ورقتان متجاورتان إلا عند القمّة.

والدمج يحتاج تباينًا بين المجموعات، وهذا الاختيار هو الوصل: فالأقصى يأخذ أكبر مسافة بين المجموعتين، والأدنى أصغرها، والمتوسّط متوسّطها، والمركزي المسافة بين المركزين.

النقاط نفسها وجوابان مختلفان

عشر نقاط: مجموعة متراصّة من ثلاث، وأخرى من ثلاث، وأربع نقاط متساوية التباعد تصل بينهما.

الوصل الأدنى يكفيه زوج قريب واحد، فتلتصق كل نقطة من الجسر بالكتلة المتنامية بدورها وتجرّ السلسلة مجموعةً كاملة - أي عنقودًا متذيّلًا. أما الأقصى والمتوسّط فينظران إلى أكبر المسافات وإلى متوسّطها، فيأبيان دمج مجموعتين متباعدتين في جملتهما، ويشطران البيانات من الوسط. وهذا هو النمط العامّ، ولهذا يُفضَّل الأقصى والمتوسّط؛ وللوصل المركزي عيب خاصّ به هو الانقلاب، إذ يندمج عنقودان دون ارتفاع أحدهما.

هذه هي النقاط العشر نفسها أدناه، معنقَدةً بأربع طرق. بدّل نوع الوصل وراقب الألوان تتحرّك: فالوصل الأدنى يجرّ الجسر كله إلى عنقود واحد من سبع، بينما يأبى الأقصى والمتوسّط ويقطعان من المنتصف. ولا شيء في البيانات يفضّل أحد الجوابين، وهنا يكمن ما يُقلِق. أما مجموعة البيانات الثانية فثلاث نقاط، وهي هنا أمانةً: إذ لا ينتج الوصل المركزي أي انقلاب على النقاط العشر، فالإشارة إليها وادّعاء الانقلاب ادّعاءٌ لما لا تُظهره. وعلى ثلاث نقاط ينتجه، وارتفاعات الاندماج تشهد بذلك.

د. ما الذي ينقص فعلًا

اجمع القرارات التي تطلّبها هذا المقال: أنوحّد القياس أم لا؛ وكم مكوّنة نُبقي؛ وكم عنقودًا؛ وأي مقياس تباين؛ وأي وصل؛ وأين نقطع. كلٌّ منها يغيّر الجواب، ولا يُحسَم أيٌّ منها من داخل البيانات.

وفي المسار المُشرَف عليه كان كلٌّ منها سيصير تحقّقًا متقاطعًا بسيطًا في مقابل استجابة محجوزة. أما التعلّم غير المُشرَف عليه فلا استجابة لديه يحجزها، وهذا ما يعنيه جيمس وزملاؤه بتسميتها قرارات صغيرة ذات عواقب كبيرة. واللازم العملي انضباط لا تقنية: جرّب عدّة مجموعات معقولة من الاختيارات، وأبلغ بالبنية التي تظهر في أغلبها - لا أن تقدّم تشغيلةً واحدة بوصفها الجواب.

ومسار التدريب التعلّم غير المُشرَف عليه يتناول الطرق الثلاث نفسها بالاشتقاقات كاملة، ومدخلا الموسوعة تحليل المكوّنات الرئيسة و العنقدة بالمتوسّطات K يغطّيانها مرجعًا.