تعلّم الآلة
تعلّم دالّة من البيانات. الطرق المُشرَفة وغير المُشرَفة، والتعميم والإفراط في التوفيق، والنظرية التي تحدّد متى يكون التعلّم ممكناً أصلاً.
المسارات (14)
تعلّم الآلة المُوجَّه
اشتقاق طرق التعلّم المُوجَّه الأساسية بدل الاكتفاء باستدعائها: المربعات الصغرى، والانحدار اللوجستي، وعقوبات الانكماش، وتجميعات الأشجار.
التعلّم غير المُشرَف عليه
إيجاد البنية في بيانات لا استجابة فيها تُتنبَّأ، ومواجهة اللازم بصراحة: فبلا y لا خطأ محجوزًا، ووجب الدفاع عن كل اختيار بوجه آخر.
آلات متّجهات الدعم
صنّف باختيار أوسع شريحة تفصل بين فئتين، ثم أرخِ الشرط ليجلس بضع نقاط داخلها، وأخيرًا اثنِ الحدّ من غير أن تبني قطّ الفضاء الذي انثنى فيه.
تجاوز الخطّية
أبقِ المربّعات الصغرى وغيّر ما تنحدر عليه: دوالّ الأساس الثابتة تشتري الانحناء، والقيود تشتري الملاسة، والجزاء يشتري منحنًى يختار مرونته بنفسه.
تعلّم النماذج الاحتمالية
حين تكون البيانات كاملة، يكون تعلّم نموذج احتمالي عدًّا - ومشتقة لوغاريتم الإمكان تتكفل بالباقي. وحين تكون بعض المتغيرات خفية فلا شيء يُعدّ، والعلاج أن تخمّن التكرارات وتعيد الملاءمة وتكرّر حتى يتوقف الإمكان عن الارتفاع.
مقارنة طرائق التصنيف
ثمة مصنّف لا تستطيع أي طريقة التفوق عليه، وهو يحتاج الجواب ليُبنى. وكل ما عداه - أقرب الجيران، والتحليل التمييزي، والانحدار اللوجستي - تخمينٌ مختلف لما كان سيفعله، والتخمينات تخفق في اتجاهات مختلفة.
الأمثلة من أجل التعلّم
كل نموذج في هذا الموقع يُلاءم بالحلقة نفسها: انظر إلى الميل، ثم اخطُ خطوة. وما يحسم أتقارب هذه الحلقة في أربعين خطوة أم تتباعد في ثلاث ليس النموذج - بل الانحناء والضجيج وحجم الخطوة. وثلاثتها تُقاس قبل أن تبدأ أول حقبة تدريب.
النظرية الإحصائية للتعلّم
لماذا تخبرك ملاءمة عيّنةٍ بشيء عن العالم الذي سُحبت منه، وما الذي تقيسه سعة فئة النماذج فعلاً، والنظرية القائلة إنّ لا طريقة هي الأفضل في كلّ مكان - مع ما لا تقوله تلك النظرية.
الاستدلال السببي
لماذا قد تحمل المقارنة بين المعالَجين وغير المعالَجين الإشارة الخاطئة، وما الذي تشتريه العشوائية فعلاً، والقاعدة التي تحدّد على أيّ المتغيّرات نعدّل - بما فيها تلك التي تزيد الجواب سوءاً.
السلاسل الزمنية
ما الذي ينكسر حين لا تكون المشاهدات مستقلّة: انحدار يجد علاقة بين سلسلتين لا رابط بينهما، وأخطاء معيارية خاطئة بعامل معلوم، وتقسيم تحقّق يعلن نموذجاً أفضل بأكثر من خمس مرّات ممّا هو عليه.
نظرية المعلومات
الموضع الوحيد في هذا الميدان الذي يُبلَغ فيه الحدّ بالضبط: العشوائية المعلوماتية أقصر ما يبلغه ترميز، وأفضل ترميز يبلغها، والزيادة المدفوعة ثمناً للتوزيع الخاطئ هي دالّة الخسارة التي تدرّب بها أصلاً.
التجريب واختبارات A/B
ما الذي تعلنه تجربة على الإنترنت إن كانت أصغر ممّا ينبغي، أو رُوقبت أكثر ممّا ينبغي، أو قُرئت على متريكات أكثر ممّا ينبغي: أثر منتفخ 2.4 ضعفاً، ومعدّل إيجابيات كاذبة 19٪ بدل 5٪، وشريحة فائزة في قرابة نصف التجارب التي لم يقع فيها شيء.
أنظمة التوصية
إزاحتان ملاءَمتان تقدّمان ثلثي مكسب الدقّة قبل تعلّم أيّ عامل كامن، ونموذج أسوأ 1.28 مرّة عند المستخدمين الذين أخبروه أقلّ، والبقعة العمياء التي تنفتح حين لا يرى النظام إلّا تقييمات ما اختار عرضه.
كشف الشذوذ
كاشف لا يُطلِق إنذاراً أبداً يسجّل دقّة 99.5٪، وROC قدره 0.9468 يخفي طابور إنذارات كاذباً بنسبة 64٪، والمسافة عن المتوسّط تقع تحت الصدفة حين يجلس الشذوذ في المركز، وعشرون شاذّاً متجمّعاً يخفي بعضها بعضاً عن المنهج المصمَّم لإيجادها.
الموسوعة (41)
نزول التدرج
خوارزمية تحسين تكرارية تُصغِّر دالةً عبر التقدّم المتكرر في الاتجاه المعاكس لتدرّجها.
انحدار التدرّج العشوائي
انحدار تدرّج تستعمل فيه كل خطوة تدرّجَ عيّنة عشوائية صغيرة من البيانات لا البيانات كلها، فتبادل اتجاهًا مضبوطًا بعدد أكبر بكثير من الخطوات لكل وحدة حساب.
عدد الشرط
نسبة أكبر انحناء إلى أصغر انحناء في سطح الخسارة، وهي وحدها تحدّد السرعة التي يمكن لانحدار التدرّج أن يتقارب بها عليه.
جدول معدّل التعلّم
قاعدة تغيّر حجم الخطوة عبر التدريب: كبيرةً في البداية ليستطيع التنفيذ السفر، وصغيرةً في النهاية ليستطيع الاستقرار.
فرط الملاءمة
حين يتعلّم النموذج ضجيج بيانات تدريبه وخصوصياتها بدل النمط الكامن، فيؤدّي أداءً جيداً في التدريب ورديئاً على بيانات جديدة.
مقايضة التحيّز والتباين
تفكيك خطأ التنبّؤ المتوقّع لنموذج إلى تحيّز وتباين وضجيج غير قابل للتقليص، والتوتّر الذي يجعل خفض أحد الأولين يرفع الآخر عادةً.
التحقّق المتقاطع
طريقة إعادة معاينة تقدّر خطأ اختبار النموذج بملاءمته مراراً على جزء من البيانات وتقييمه على الجزء المحجوز.
التنظيم
أي تقنية تقيّد التعقيد الفعّال لنموذج بغية خفض التباين وتحسين التعميم، وعادةً بمعاقبة قيم البارامترات الكبيرة.
بايز الساذج
مصنِّف يطبّق مبرهنة بايز مع افتراض أن كل السمات مستقلّة شرطياً بمعلومية الفئة.
الإنتروبيا المتقاطعة
مقياس للفارق بين توزيعين احتماليين، يُستخدم دالةَ خسارة قياسية في التصنيف.
الانحدار الخطي
نموذج يتنبأ باستجابة عددية بوصفها مجموعًا موزونًا للمتنبِّئات، ويُلاءَم بتصغير الخطأ التربيعي.
الانحدار اللوجستي
نموذج تصنيف يتنبأ باحتمال فئة عبر تمرير تركيبة خطية من المتنبِّئات خلال الدالة اللوجستية.
شجرة القرار
نموذج يتنبأ بتطبيق سلسلة من اختبارات العتبة على سمات مفردة، فيقسّم البيانات إلى مجموعات متزايدة التجانس.
التعبئة والغابات العشوائية
طرق تجميعية تخفض التباين بأخذ متوسط نماذج كثيرة مُلاءَمة على عيّنات بوتستراب، وتزيد الغابات العشوائية عليها بفكّ ارتباط الأشجار عبر تقييد السمات المتاحة عند كل انقسام.
الشريحة (السبلاين)
كثير حدود مجزّأ موصول عند نقاط مختارة تُسمّى العقد، ومقيَّد بحيث تبقى الدالة ومشتقاتها الدنيا متصلة هناك، فيعطي مرونة موضعية دون السلوك الجامح لكثير حدود عالي الدرجة.
آلة متجهات الدعم
مصنّف يفصل الفئات بالحدّ الذي يترك أوسع هامش ممكن، ولا تحدّده إلا أقرب نقاط التدريب.
التجميع بالمتوسطات k
خوارزمية غير مُوجَّهة تقسّم المشاهدات إلى k مجموعة بالتناوب بين إسناد النقاط إلى أقرب مركز وإعادة حساب المراكز.
التوقع–التعظيم
طريقة تكرارية للتقدير بالإمكان الأعظم حين تكون بعض المتغيرات غير مرصودة: تحسب التوزيع البعدي للمتغيرات الخفية في ظل المعالم الحالية، ثم تعيد ملاءمة المعالم كما لو أن تلك التكرارات المتوقَّعة قد رُصدت فعلًا.
أقرب k جار
مصنّف غير معلمي يتنبأ بصنف نقطة بتصويت الأغلبية بين مشاهدات التدريب الـ k الأقرب إليها.
التحليل التمييزي الخطي
مصنّف توليدي ينمذج كل صنف بتوزيع غاوسي ثم يقلب تلك النماذج بمبرهنة بايز؛ فمصفوفة تغاير واحدة مشتركة بين كل الأصناف تعطي حدًّا فاصلًا خطيًا، وواحدة لكل صنف تعطي حدًّا تربيعيًا.
منحنى ROC
رسم لمعدل الإيجابيات الصحيحة لمصنّف في مقابل معدل إيجابياته الكاذبة بينما تكتسح عتبة القرار مداها كله، فيلخّص كل مقايضة متاحة بين نوعَي الخطأ.
العنقدة الهرميّة
طريقة غير مُشرَف عليها تبني شجرةً من عناقيد متداخلة بدمج أقلّ المجموعتين تباينًا مرارًا، بحيث يعطي قطع الشجرة عند أي ارتفاع عنقدةً.
تحليل المركّبات الرئيسية
أسلوب يعيد التعبير عن البيانات في إحداثيات جديدة غير مترابطة مرتَّبة بحسب مقدار التباين الذي تفسّره كل منها، فيتيح خفض الأبعاد بالاحتفاظ بأوائلها فقط.
الشبكة العصبية
نموذج مؤلَّف من طبقات وحدات بسيطة، تحسب كلٌّ منها مجموعًا موزونًا يتبعه دالة غير خطية، ويُلاءَم بنزول التدرج باستخدام الانتشار العكسي.
التدريب المسبق والضبط الدقيق
الوصفة ذات المرحلتين: تدريب نموذج أولًا على متن عام كبير، ثم تكييفه لمهمة محددة بمجموعة بيانات موسومة أصغر بكثير.
تعلّم Q
خوارزمية تعلّم معزَّز تتعلم قيمة أخذ كل فعل في كل حالة من التجربة مباشرةً، دون نموذج للبيئة.
بُعد فابنيك-تشيرفونينكيس
حجم أكبر مجموعة نقاط تستطيع عائلة من المصنّفات أن تعنونها بكلّ الطرائق الممكنة. وهو يقيس السعة بما تستطيع الفئة فعله لا بعدد أعضائها، وهذا ما يجعله صالحاً للعائلات اللانهائية.
التعلّم PAC
تعريف للقابلية للتعلّم يجب فيه على الخوارزمية أن تردّ، باحتمال عالٍ، فرضيةً خطؤها الحقيقي ضمن تسامح مختار - مستعملةً عدداً من العيّنات محدوداً سلفاً لا مكتشَفاً بعد الأمر.
الخلط
متغيّر يؤثّر في العلاج والنتيجة معاً، فتقيس المقارنة بين المعالَجين وغير المعالَجين الفرقَ بين المجموعتين بقدر ما تقيس أثر العلاج.
الرسم السببي
رسم لعلاقات السبب والأثر المفترَضة على هيئة سهام بين متغيّرات، يُستعمل لتحديد أيّ المتغيّرات يجب التعديل عليها وأيّها يجب ألّا يُعدَّل عليه - وهو سؤال لا تجيب عنه البيانات وحدها.
الاستقرارية
خاصّية سلسلة لا يتوقّف سلوكها الإحصائي على لحظة النظر إليها: المتوسّط والتباين وبنية الارتباط هي نفسها في كلّ نافذة. تفترضها كلّ الطرق الكلاسيكية تقريباً، وتفتقر إليها أكثر السلاسل الواقعية.
الارتباط الذاتي
ارتباط السلسلة بنسخة مزاحة منها، يقيس مدّة بقاء أثر المشاهدة. وهو البنية التي تجعل بيانات السلاسل الزمنية مفيدة، والسبب في أنّ الأخطاء المعيارية المعتادة لا تنطبق عليها.
تباعد كولباك-لايبلر
عدد البتّات الزائدة لكلّ رمز التي تُدفَع لوصف توزيع بترميز مبنيّ لتوزيع آخر. يساوي صفراً فقط حين يتطابق التوزيعان، ولا يكون سالباً أبداً، وليس متناظراً، فهو كلفة لا مسافة.
المعلومة المتبادلة
كم بتّة يخبرك بها رصد متغيّر عن متغيّر آخر. تساوي صفراً بالضبط حين يكون المتغيّران مستقلّين، وتلتقط اعتماداً من أيّ شكل لا الخطّيّ فقط، ولا يستطيع شيء يُحسَب بعدها أن يزيدها.
المقارنات المتعدّدة
تضخّم الإيجابيات الكاذبة الذي يقع كلّما سُمح لأكثر من اختبار أو متريك أو شريحة أو نقطة توقّف بإنتاج العنوان. فكلّ فرصة إضافية ترفع احتمال أن يعبر شيء العتبة بالحظّ وحده.
التحليل المصفوفي
نموذج يفسّر جدول تفاعلات متفرّقاً بوصفه جداءً لمصفوفتين صغيرتين، فيعطي كلّ مستخدم وكلّ عنصر متّجهاً قصيراً من سمات متعلَّمة يتنبّأ جداؤها القياسيّ بالخانات الغائبة.
الدالّة الأُسّيّة المعيّرة
دالّة تحوّل متّجهًا من الدرجات الحقيقيّة إلى توزيع احتماليّ بأخذ أُسّ كلّ درجة والقسمة على المجموع، فتحفظ ترتيبها وتجعلها موجبة ومجموعها واحدًا.
الحيرة
أُسّ الإنتروبيا المتقاطعة المتوسّطة لنموذج، تُقرأ عدد الخيارات المتساوية الاحتمال التي يختار بينها فعليًّا عند كلّ خطوة.
القبليّ المرافق
قبليٌّ يُختار ليقع البعديّ في العائلة نفسها، فيصير التحديث البيزيّ حسابًا على الوسائط ويصير القبليّ مقروءًا عددَ مشاهدات متخيَّلة.
الدقّة والاستدعاء
نسبتان تفصلان ما تُخفيه الإصابة: الدقّة نسبة الموجبات المتنبَّأ بها التي هي حقيقيّة، والاستدعاء نسبة الموجبات الحقيقيّة التي وُجدت.
كشف الشذوذ
إيجاد المشاهدات القليلة التي لم تنتجها العملية التي أنتجت البقيّة. والصعوبة المميِّزة ليست في الخوارزمية بل في معدّل الأساس: فعند 0.5٪ شذوذاً يكون كاشف لا يُطلِق إنذاراً أبداً دقيقاً بنسبة 99.5٪، وأكثر المقاييس المعيارية ترث ذلك الرقم بدل أن تقيس مهارة.
المقالات (27)
أيّ توزيع خاطئ تريد؟
هدفٌ ثنائي المنوال، وغاوسيّة واحدة، واتّجاهان للتباعد نفسه. تصغير KL(P||Q) يمدّ الغاوسيّة على المنوالين بلا كتلة تُذكر حيث يقيم الهدف فعلًا؛ وتصغير KL(Q||P) يضعها على منوال واحد عند 0.6931 نات، وهي ln 2 حتى أربعة أرقام عشرية لا مصادفة. وكل مواءمة يحكم عليها المعيار الآخر بالكارثة: 2.0976 مقابل 15.2799.
السمتان اللتان تبدوان ضجيجًا
متغيّرٌ يحدّد آخر بارتباط قدره 0.0000000000 بالضبط، وزوجُ سماتٍ كل معلومة متبادلة ثنائيّة بينهما وبين الهدف تساوي صفرًا بالضبط بينما يحدّدانه معًا تمامًا. والغربلة أحاديّة المتغيّر تطرح الاثنتين، والحالة الثانية هي المهمّة: فالسمات التي تحذفها تُحذف لأنّها مهمّة.
المبرهنة التي لا تقول شيئًا عن مسألتك
بالمتوسّط على الدوالّ الـ256 من ثلاث بتّات إلى واحدة، يسجّل متعلّمُ أقرب جار ومتعلّمٌ بُني ليخطئ عمدًا 0.500000 بالضبط خارج بيانات التدريب. تلك هي مبرهنة انعدام الغداء المجّاني، وهي صحيحة بالضبط، وما إن يُقصَر المتوسّط على الدوالّ الستّ التي تعتمد على بتّ واحد حتى يفترق الاثنان إلى 0.333333 و0.666667.
أبطأ اتّجاه هو الذي يحدّد الإيقاع
حجم الخطوة المسموح به يحدّده أشدّ الاتّجاهات انحدارًا، وعدد الخطوات اللازم يحدّده أكثرها استواءً، فتكون كلفة النزول الاشتقاقي نسبتهما. المواءمة نفسها بالمربّعات الصغرى، وحتى العشرة أرقام العشريّة نفسها، تحتاج 1742 خطوة في أساس، و147 في أساس مُعاد قياسه، وخطوة واحدة بالضبط في أساس متعامد متجانس، والزخم لا يسترجع إلّا الجذر التربيعي للنسبة.
الاتّجاه الذي يتغيّر حين تغيّر وحدة القياس
اثنا عشر شخصًا، وقياسان لكلٍّ منهم، وثلاث مكوّنات رئيسة أولى مختلفة: بالمليمترات يكون الجواب الطول وحده تقريبًا، وبالأمتار الوزن وحده تقريبًا، وبالسنتيمترات مزيجًا متوازنًا - مع بقاء الارتباط عند 0.9500 في الحالات الثلاث. وما يقوله ذلك عمّا تعظّمه المكوّنات الرئيسة، ولماذا قد تكون نسبة تباين مفسَّر تبلغ 99.999% قولًا عن الأمتار لا عن الأشخاص، وما الذي تختاره المعيرة فعلًا.
وسيط واحد، وسعة لا نهائيّة
مصنّف بوسيط حقيقي واحد يحقّق جميع الوسوم الـ1,048,576 لعشرين نقطة في كل مرّة، ثم يتنبّأ بالنقطة الحادية والعشرين بدقّة 0.5038 على عشرين ألف تجربة. فعدّ الوسائط لا يحدّ سعة صنف النماذج من أعلى ولا من أسفل، ولهذا وجب قياس السعة بطريق آخر.
درجةٌ تخسر أمام عدم الفعل
نموذج الجيران الخمسة الأقرب يسجّل 0.9983 في التحقّق المتقاطع العشوائي بخمسة أثلاث على مشية عشوائيّة، وهي سلسلة زياداتها غير قابلة للتنبّؤ بالبناء. وبتقييمه تقدّمًا في الزمن يسجّل 0.6559 بجذر متوسّط خطأ تربيعي أكبر 12.44 مرّة، ويخسر أمام إبقاء آخر قيمة مرصودة كما هي. فالقسمة، لا النموذج، هي التي أنتجت الرقم الأوّل.
ما الذي يجعل التدريب يتقارب حقًا
فرقٌ بنسبة اثنين في المئة في معدّل التعلّم يفصل تنفيذًا متقاربًا عن آخر يبعد خمس مراتب عشرية، وعددُ شرطٍ يتنبأ بمعدّل التقارب إلى ست منازل عشرية، وانحدارُ التدرّج العشوائي بخطوة ثابتة لا يتقارب أبدًا - بل يستقر في كرة ينمو نصف قطرها بجذر الخطوة. وكل رقم هنا حُسب على مسألة يُعرف أمثلها بالضبط.
الكاشف الذي لا يُطلِق إنذاراً أبداً دقيق بنسبة 99.5٪
عند معدّل أساس واقعيّ يفوز الكاشف الخامل في الدقّة، وROC قدره 0.9468 يخفي طابور إنذارات كاذباً بنسبة 64٪، والمسافة عن المتوسّط تقع تحت الصدفة حين يجلس الشذوذ في المركز، وعشرون شاذّاً متجمّعاً يخفي بعضها بعضاً عن المنهج المصمَّم لإيجادها.
لماذا ينجح التعلّم من البيانات أصلاً
الفجوة بين الخطأ الذي تقيسه والخطأ الذي ستتحمّله، ولماذا يجعل انتقاء الأفضل من ألف فرضية متطابقة الأمر يبدو أفضل من الصدفة بـ0.1149، وكيف تُعدّ السعة لفئات النماذج اللانهائية، والنظرية التي تُساوي بين كلّ المتعلّمين - مع الافتراض الذي يصدّقها.
العلاج الذي ينفع الجميع ويضرّ المعدّل
علاج يرفع الشفاء خمس نقاط بالضبط في كلّ مجموعة فرعية بينما يبدو أنّه يخفضه إجمالاً، ولماذا يجعل مزيد من البيانات تلك الخلاصة أوثق لا أصحّ، وما الذي تشتريه العشوائية ولا يستطيعه التعديل، والحالة التي يصنع فيها ضبط متغيّرٍ ارتباطاً من لا شيء.
الانحدار الذي يجد علاقة غير موجودة
سلسلتان مولَّدتان من أعداد عشوائية منفصلة تخرجان مرتبطتين معنوياً في 82.8٪ من الحالات، وخطأ معياري على بيانات متعلّقة أضيق ممّا ينبغي بعامل قابل للحساب قدره 2.4، وتقسيم التحقّق المعتاد يعلن متنبّئاً أفضل بأكثر من خمس مرّات ممّا هو عليه. ثلاثة إخفاقات، وسبب واحد، والفحوص التي تمسك كلّاً منها.
النموذج الذي يختار بيانات تدريبه بنفسه
إزاحتان ملاءَمتان تقدّمان 66٪ من مكسب الدقّة في نظام التوصية قبل تعلّم أيّ عامل كامن، والخطأ أسوأ 1.28 مرّة عند المستخدمين الأقلّ كلاماً، ولا يبلغ إلّا 30٪ من الكتالوغ قائمة العشرة الأولى لأيّ أحد بلا حدّ صريح للشيوع في النموذج، وبعد ستّ جولات من بيانات منتقاة ذاتياً يصير النظام أسوأ 1.14 مرّة حيث كفّ عن النظر بالضبط.
التجربة التي كانت ستفوز على أيّ حال
تجربة بـ2000 مستخدم لكلّ ذراع تعرض آثاراً أكبر 2.4 مرّة ممّا ينبغي. وتجربة A/A تُراجَع عشر مرّات تخرج معنويةً 19٪ من الوقت. وعشرون متريكاً صفرياً مستقلّاً تنتج فائزاً 64٪ من الوقت، واثنتا عشرة شريحة صفرية 46٪. أربعة أرقام، وسبب واحد، والقرارات التي يجب اتّخاذها قبل وصول البيانات.
الحدّ الذي يُبلَغ فعلاً
العشوائية المعلوماتية ليست ملخّصاً لتوزيع بل أرضية يبلغها أفضل ترميز إلى آخر منزلة عشرية، والزيادة المدفوعة ثمناً للتوزيع الخاطئ هي بالضبط الخسارة التي يصغّرها كلّ مصنّف أصلاً، والمعلومة المتبادلة تضع سقفاً صلباً على كلّ ما يلي المستشعر. ثلاث نتائج، كلّ واحدة أحدّ من المعتاد.
مقارنة المصنّفات، وما تخفيه الدقة
مصنّف بايز الذي لا يُهزم وأرضية الخطأ التي يخلّفها، وأقرب k جار محاكاةً غير معلمية وk مفتاحًا للمرونة، والتحليل التمييزي ولماذا يفرض التغاير المشترك خطًا مستقيمًا، ومصفوفة الالتباس والعتبات ومنحنى ROC التي يخفيها رقم دقة واحد - وكل عدد محسوب على بيانات محاكاة يُعرف فيها الأمثل.
آلات متّجهات الدعم: الهوامش والنوى
لماذا تكون أوسع شريحة بين فئتين حدًّا جيّدًا، ولماذا يكون الإصرار على حدّ تامّ مهزومًا بذاته، وكيف تسترجع ميزانيةٌ للانتهاكات الثباتَ، وكيف تثني نواةٌ الحدَّ بالعمل في فضاء لا تضطرّ إلى بنائه قطّ.
تجاوز الخطّية: الشرائح والنماذج الجمعية
كيف تلائم علاقات منحنية دون أن تغادر المربّعات الصغرى: دوالّ الأساس، والقيود التي تحوّل كثير حدود مجزّأً مكسورًا إلى شريحة، والعمود الإضافي الواحد لكل عقدة الذي يفرضها مجّانًا، وجزاء الخشونة الذي يدع المنحنى يختار مرونته بنفسه.
التعلّم غير المُشرَف عليه: بنية بلا وسوم
ما الذي يتغيّر حين لا توجد استجابة تُتنبَّأ: المكوّنات الرئيسة بوصفها اتّجاه التباين الأقصى، وخوارزميّة المتوسّطات K والنهايات المحلّية التي تستقرّ عندها، والعنقدة الهرميّة والوصل الذي يقرّر الجواب - ولماذا لا يمكن التحقّق من أيٍّ من الاختيارات المطلوبة كما يُتحقَّق من مصنّف.
ما هو التعلّم الإحصائي؟
الإطار الكامن وراء كل نموذج تنبّؤي: تقدير دالة مجهولة f من البيانات، والفصل بين الخطأ القابل للتقليص وغير القابل له، ولماذا يشدّ التنبّؤ والاستدلال في اتجاهين متعاكسين.
التعلّم المعزّز وتعلّم Q
تعلّم حسن التصرّف بلا نموذج للعالم: تحديثات الفروق الزمنية، وقاعدة تعلّم Q، والاستكشاف في مقابل الاستثمار، وتشغيل يستعيد الأمثلية المخطَّطة من التجربة وحدها.
مقايضة التحيّز والتباين
التفكيك الدقيق لخطأ الاختبار المتوقّع إلى مربّع التحيّز والتباين والضجيج غير القابل للتقليص، مبرهَناً عددياً بمحاكاة من 2000 تكرار تُقاس فيها الحدود الثلاثة كلٌّ على حدة ويُتحقّق من أن مجموعها يطابق.
التحقّق المتقاطع وإعادة المعاينة
لماذا يكون خطأ التدريب تقديراً متحيّزاً لخطأ الاختبار، وكيف تعالج ذلك مجموعة التحقّق وطريقة ترك واحد وطريقة الطيّات k، مع حساب LOOCV على خمس مشاهدات مشاهدةً مشاهدة.
الانحدار الخطي من المبادئ الأولى
اشتقاق معاملات المربّعات الصغرى باشتقاق مجموع مربّعات البواقي، ثم تنفيذ ملاءمة كاملة على خمس مشاهدات يدوياً: المعاملات والقيم المُلائَمة والبواقي وRSS ومعامل التحديد، وكلٌّ منها متحقَّق منه عددياً.
الانحدار اللوجستي والتصنيف
لماذا لا يستطيع المستقيم نمذجة احتمال، وكيف تعالج الدالة اللوجستية ذلك، وما معنى المعاملات بلغة لوغاريتم الأرجحية، مع خطوة صعود تدرّجي وملاءمة متقاربة محسوبتين ومتحقَّق منهما عددياً.
التنظيم: ريدج ولاسو
إضافة عقوبة على حجم المعاملات لمبادلة قليل من التحيّز بخفض كبير في التباين، ولماذا تصفّر عقوبة L1 معاملات بعينها تماماً بينما تكتفي L2 بتقليصها، مع ملاءمة الاثنتين عددياً.
أشجار القرار والتجميعات
كيف تبني القسمة الثنائية العَودية شجرةً، ولماذا يتفوّق دليل جيني على معدّل الخطأ كمعيار للقسمة، وكيف يحوّل التعبئة والغابات العشوائية متعلّماً عالي التباين إلى متعلّم قوي، مع حساب قسمة واحدة كاملاً.
الأدوات (3)
مستكشف مقاييس التصنيف
حرّك عتبة القرار عبر مجتمع غير متوازن وراقب الدقة والاستدعاء وF1 ونقطة ROC تتحرك معها - بما في ذلك الحالة التي تبدو فيها الصحّة ممتازة بينما النموذج عديم الفائدة.
مستكشف الانحياز والتباين
غيّر تعقيد النموذج وحجم العينة لترى خطأ التدريب يتناقص باطّراد بينما ينعطف خطأ الاختبار صعودًا، مُفكَّكًا إلى انحياز وتباين وضوضاء غير قابلة للاختزال.
مخطّط الدراسة
اختر هدفاً - الأسس أو الطرق الموجَّهة أو الذكاء الاصطناعي الحديث - واحصل على خطة هذا الموقع المرتّبة لبلوغه: أي مسار تسلك في كل مرحلة، وماذا تقرأ إلى جانبه، وكم تستغرق الدروس.
مجموعات البيانات (4)
مراجعات أفلام IMDB
50,000 مراجعة فيلم موسومة إيجابيةً أو سلبية - معيار مرجعي لتصنيف النصوص الثنائي، متوازن بحكم البناء.
اقتصاد وقود السيارات
استهلاك الوقود وخصائص المحرّك لبضع مئات من السيارات - المثال المحلول وراء الانحدار البسيط وكثير الحدود.
التعثّر في سداد بطاقة الائتمان (محاكى)
مجموعة محاكاة من حاملي البطاقات تُستخدم لتقديم التصنيف - وتوضيح نظيف لسبب تضليل الدقة في الأحداث النادرة.
الحركات اليومية لمؤشّر S&P 500
التغيّرات المئوية اليومية لمؤشّر S&P 500 من 2001 إلى 2005 - مسألة تصنيف صعبة عن قصد، الجواب الأمين فيها «بالكاد أفضل من الصدفة».
البحث (6)
The Perceptron: A Perceiving and Recognizing Automaton
يعرض البِرسِبترون، وحدةً قابلة للتدريب تحسب مجموعاً مرجّحاً لمدخلاتها وتشتعل إن تجاوز المجموع عتبة، مع قاعدة لضبط الأوزان من أمثلة موسومة.
Classification and Regression Trees
يرسي منهجية CART: إنماء أشجار القرار باختيار القسمة التي تحسّن نقاء العقد أكثر من غيرها بشكل عَودي، ثم تشذيب الشجرة المكتملة باستخدام بيانات محجوزة.
Learning Internal Representations by Error Propagation
يقدّم الانتشار العكسي طريقةً عامة لتدريب الشبكات متعدّدة الطبقات، مبيّناً أن الطبقات المخفية تستطيع تعلّم تمثيلات داخلية نافعة بدل الحاجة إلى تصميمها يدوياً.
Models of Delayed Reinforcement Learning
يطوّر تعلّم Q، وهي خوارزمية تقدّر قيمة كل فعل في كل حالة مباشرةً من التجربة، بلا حاجة إلى نموذج لاحتمالات انتقال البيئة.
Support-Vector Networks
يعرض آلة المتجهات الداعمة بهامش ليّن، تفصل الفئات بأوسع هامش ممكن مع السماح بانتهاكات محدودة، وتستخدم النوى للحصول على حدود لاخطية.
Bagging Predictors
يعرض التجميع بالتمهيد الذاتي: ملاءمة نموذج على عيّنات تمهيد كثيرة من بيانات التدريب ثم متوسّط التنبّؤات، ما يخفض التباين دون رفع التحيّز.