موسومة بـ “mutual-information”

2 مقالات.

14 سبتمبر 2026قراءة 2 دقيقةأسس الاحتمالات

السمتان اللتان تبدوان ضجيجًا

متغيّرٌ يحدّد آخر بارتباط قدره 0.0000000000 بالضبط، وزوجُ سماتٍ كل معلومة متبادلة ثنائيّة بينهما وبين الهدف تساوي صفرًا بالضبط بينما يحدّدانه معًا تمامًا. والغربلة أحاديّة المتغيّر تطرح الاثنتين، والحالة الثانية هي المهمّة: فالسمات التي تحذفها تُحذف لأنّها مهمّة.

تعلّم الآلةالرياضيات

11 سبتمبر 2026قراءة 5 دقيقةInformation Theory

الحدّ الذي يُبلَغ فعلاً

العشوائية المعلوماتية ليست ملخّصاً لتوزيع بل أرضية يبلغها أفضل ترميز إلى آخر منزلة عشرية، والزيادة المدفوعة ثمناً للتوزيع الخاطئ هي بالضبط الخسارة التي يصغّرها كلّ مصنّف أصلاً، والمعلومة المتبادلة تضع سقفاً صلباً على كلّ ما يلي المستشعر. ثلاث نتائج، كلّ واحدة أحدّ من المعتاد.

الرياضياتتعلّم الآلة