قواعد الارتباط شبه المُشرف عليها
- قدّمه
- Liu, B.; Hsu, W.; Ma, Y. (and subsequent researchers)
- السنة
- 2003–2010s
- النوع
- Pattern mining with partial supervision
- العائلة
- Machine learning
هذا النص ترجمة آلية ولم تتم مراجعته بعد. اقرأ النص الأصلي بالإنجليزية
ماذا تفعل؟
تُوسع قواعد الارتباط شبه المُشرف عليها التعلم الكلاسيكي لقواعد الارتباط من خلال دمج كمية صغيرة من البيانات المُصنفة إلى جانب مجموعة بيانات غير مُصنفة أكبر. تستخدم معلومات الفئة المعروفة أو القيود التي يوفرها المستخدم لتوجيه اكتشاف القواعد التي تكون متكررة إحصائيًا وذات مغزى دلالي، مما يربط بين استخراج الأنماط غير المُشرف عليها والإشراف الخفيف.
الفكرة الحدسية وراء الطريقة
يجد استخراج قواعد الارتباط القياسي جميع أنماط التواجد المشترك المتكررة دون أي إحساس بما هو مهم. قواعد الارتباط شبه المُشرف عليها تُغير هذا من خلال السماح لمجموعة صغيرة من الأمثلة المُصنفة أو قيود المجال بتوجيه البحث: تُفضل القواعد التي تتماشى مع بنية الفئة المعروفة على تلك المتكررة إحصائيًا ولكنها بلا معنى. فكر في الأمر على أنه إعطاء الخوارزمية حفنة من التلميحات حول ما يهتم به المحلل، لذلك تتوقف عن عرض الأنماط التافهة أو المعروفة بالفعل، وبدلاً من ذلك تسلط الضوء على العلاقات الجديدة والقابلة للتنفيذ حقًا. تجمع النتيجة بين اتساع اكتشاف الأنماط غير المُشرف عليها مع قدر كافٍ من التوجيه للحفاظ على النتائج ذات صلة.
التاريخ
تمت صياغة استخراج قواعد الارتباط بواسطة Agrawal و Imielinski و Swami في عام 1993 مع تقديم خوارزمية Apriori، والتي تستهدف الاكتشاف غير المُشرف عليه لمجموعات العناصر المتكررة في بيانات سلة السوق. اكتسب دمج تسميات الفئات والقيود في استخراج قواعد الارتباط زخمًا في أوائل العقد الأول من القرن الحادي والعشرين، لا سيما من خلال أطر CMAR و CBA لـ Liu وزملائه، والتي تعاملت مع تسميات الفئات كنتائج للقواعد. ظهرت امتدادات شبه مُشرف عليها عندما أدرك الباحثون أن الإشراف الجزئي يمكن أن يقلل من الانفجار التوافقي للقواعد المرشحة مع الحفاظ على المساهمة الإحصائية للبيانات غير المصنفة. يظهر النهج الآن في المعلوماتية الحيوية، واستخراج بيانات التعليم، وأنظمة التوصية.
متى تُستخدم
استخدم استخراج قواعد الارتباط شبه المُشرف عليها عندما يكون لديك مجموعة بيانات معاملات أو جدولية كبيرة، جزء صغير فقط منها يحمل تسميات فئة أو تعليقات توضيحية للمجال، وتحتاج إلى اكتشاف أنماط التواجد المشترك ذات الصلة حقًا بمفهوم مستهدف بدلاً من مجرد أنماط متكررة. وهي مناسبة لتحليل سلة السوق مع بعض نتائج الشراء المعروفة، واستخراج السجلات الطبية حيث يكون لعدد قليل فقط من الحالات تشخيصات مؤكدة، وتصنيف النصوص حيث تكون المستندات المصنفة نادرة. تجنبها عندما يكون الجزء المصنف ضئيلاً للغاية (أقل من بضع عشرات من الأمثلة المصنفة)، وعندما يكون الإشراف الكامل ممكنًا، أو عندما تتطلب متطلبات التفسير نموذجًا أبسط مثل الانحدار اللوجستي أو شجرة القرار.
الحدود والاعتبارات
- تعتمد جودة القاعدة بشكل كبير على جودة وتمثيل مجموعة البذور المصنفة؛ مجموعة فرعية مصنفة متحيزة تنشر التحيز في القواعد المكتشفة.
- يخلق الجمع بين عتبات الدعم والثقة والقيود مساحة معلمات فائقة كبيرة يصعب ضبطها بدون بيانات تحقق مصنفة.
- تتوسع التكلفة الحسابية مع عدد مجموعات العناصر المرشحة؛ تتطلب مجموعات البيانات ذات مساحات العناصر عالية الأبعاد جدًا استراتيجيات تقليم قوية.
- يمكن لحلقات التدريب الذاتي تضخيم الأخطاء المبكرة إذا كانت التسميات الزائفة الأولية مشوشة، مما يؤدي إلى انحراف القاعدة عبر التكرارات.
لا تغني شروط المصدر عن المراجعة العلمية المستقلة أو التحقق بواسطة محرك تحليل.
نقاط القوة
- يستفيد من البيانات غير المصنفة الوفيرة للعثور على أنماط قد تكون غير مرئية إحصائيًا مع البيانات المصنفة وحدها.
- تقوم القيود المشتقة من التسميات بتقليم القواعد غير ذات الصلة، مما ينتج عنه مجموعة قواعد أصغر وأكثر قابلية للتنفيذ من الاستخراج غير المُشرف عليه بالكامل.
- تظل القواعد عبارات IF-THEN قابلة للقراءة من قبل الإنسان، مما يحافظ على ميزة التفسير لاستخراج قواعد الارتباط الكلاسيكي.
- يمكن أن يؤدي تحسين التدريب الذاتي إلى تحسين جودة القواعد وتغطية التسميات الزائفة بشكل تكراري دون تكلفة تصنيف إضافية.
- مرنة: يمكن للقيود ترميز معرفة المجال بما يتجاوز تسميات الفئة البسيطة (مثل الترتيب الزمني، تسلسل العناصر الهرمي للعناصر).
التطبيقات
- استخراج السجلات الطبية حيث تحمل مجموعة فرعية فقط من سجلات المرضى تشخيصات مؤكدة.
- تحليل سلة السوق الموجه بمجموعة فرعية معروفة من نتائج الشراء عالية القيمة.
- استخراج بيانات التعليم لاكتشاف أنماط سلوك التعلم المرتبطة بمجموعة صغيرة من نتائج أداء الطلاب المصنفة.
- تعدين النصوص وتصنيف المستندات مع مجموعات نصوص مصنفة نادرة.
- اكتشاف التسلل حيث يتم تأكيد جزء فقط من أحداث الشبكة على أنها هجمات.
- أنظمة التوصية التي تستخدم تقييمات مستخدم متفرقة لتقييد قواعد تواجد العناصر المشترك.
كيف يعمل
كيف يعمل
تنقسم مجموعة البيانات إلى جزء صغير مُصنف (مع تسميات فئة معروفة أو قيود محددة من قبل المستخدم) وجزء غير مُصنف أكبر. تعمل الأمثلة المُصنفة كبذور أو نقاط ربط تحدد مساحة المفهوم المستهدف، بينما توفر المعاملات غير المُصنفة الكتلة الإحصائية اللازمة لحساب عدد مرات الدعم الموثوقة.
يتم تشغيل تعداد مجموعات العناصر المتكررة عبر البيانات المصنفة وغير المصنفة باستخدام خوارزميات كلاسيكية مثل Apriori أو FP-Growth، وحساب الدعم كنسبة المعاملات التي تحتوي على مجموعة عناصر معينة. يتم الاحتفاظ فقط بمجموعات العناصر التي تتجاوز الحد الأدنى لعتبة الدعم كمرشحين لتوليد القواعد.
الصيغة
\text{support}(X) = \frac{|\{t \in D : X \subseteq t\}|}{|D|} \geq \text{min\_sup}يتم تطبيق القيود المشتقة من التسميات أو المحددة من قبل المستخدم لتقليم مساحة المرشحين. يمكن أن تتخذ القيود شكل يجب الربط (يجب أن يتواجد عنصران معًا في النتيجة مع فئة مستهدفة)، لا يمكن الربط (يتم استبعاد مجموعات معينة)، أو مرشحات تسمية الفئة التي تقيد القواعد التي تتضمن نتيجة مستهدفة. هذا يقلل بشكل كبير من عدد القواعد الزائفة أو المكررة.
يتم إنشاء قواعد صالحة X تعني Y من مجموعات العناصر المتكررة الباقية، ويتم تصفيتها بواسطة حد أدنى للثقة. تقيس الثقة الاحتمال الشرطي لظهور Y بالنظر إلى X. في إعداد شبه مُشرف، تُعطى الأولوية أو تُوزن القواعد التي تتوافق نتيجتها مع فئة مُصنفة أو قيد بشكل أعلى.
الصيغة
\text{confidence}(X \Rightarrow Y) = \frac{\text{support}(X \cup Y)}{\text{support}(X)} \geq \text{min\_conf}يمكن استخدام القواعد المكتشفة بشكل تكراري لتعيين تسميات زائفة للمعاملات غير المصنفة سابقًا، والتي يتم بعد ذلك إعادتها إلى جولات الاستخراج اللاحقة. تعمل حلقة التدريب الذاتي هذه على إثراء مجموعة التسميات تدريجيًا وتُحسّن مجموعة القواعد، وتتقارب عندما لا يتم العثور على قواعد جديدة عالية الثقة أو يتم الوصول إلى حد تكرار محدد مسبقًا.
الأخطاء الشائعة
- تعيين الحد الأدنى للدعم منخفضًا جدًا بدون قيود، مما يغمر النتيجة بقواعد متكررة بشكل تافه ولكنها غير مفيدة.
- تجاهل اختلال توازن الفئات في مجموعة البذور المصنفة، مما يتسبب في أن تقوم مرشحات القيود بتمثيل مفرط للفئة الأغلبية في القواعد المكتشفة.
- معاملة الثقة كمقياس الاهتمام الوحيد وتفويت القواعد ذات الرفع أو الإدانة العالية التي تكون أكثر فائدة من الناحية العملية.
- تخطي تقييم جودة تنبؤ القاعدة المُحتفظ بها وقبول القواعد المستخرجة كما هي دون التحقق من صحتها على بيانات غير مرئية.
- خلط الارتباط (التواجد المشترك) مع السببية عند الإبلاغ عن النتائج.
الأسئلة الشائعة
كيف يختلف هذا عن استخراج قواعد الارتباط القياسي؟
استخراج قواعد الارتباط القياسي غير مُشرف عليه بالكامل: فهو يجد جميع أنماط التواجد المشترك فوق عتبة الدعم والثقة دون مفهوم فئة مستهدفة. تدمج قواعد الارتباط شبه المُشرف عليها معلومات تسمية جزئية أو قيود مجال لتصفية وترتيب القواعد ذات الصلة بنتيجة معينة، مما ينتج عنه مجموعة نتائج أصغر وأكثر قابلية للتنفيذ.
ما مقدار البيانات المصنفة المطلوبة؟
حتى مجموعة مصنفة صغيرة يمكن أن توفر قيودًا مفيدة، ولكن جودة البذور أهم من الكمية. في الممارسة العملية، يُنصح بوجود عشرات الأمثلة المصنفة لكل فئة على الأقل لتجنب القيود المتحيزة بشدة. إذا كانت التسميات متفرقة للغاية، فيجب التحقق من صحة النتائج بعناية على مجموعة فرعية مصنفة مُحتفظ بها.
ما هي العتبات التي يجب أن أضبطها للدعم والثقة؟
لا توجد إجابة عالمية: تعتمد العتبات على حجم مجموعة البيانات والمجال وعدد القواعد التي يمكنك تقييمها بشكل واقعي. ابدأ بعتبات معتدلة (على سبيل المثال، دعم 0.05-0.10، ثقة 0.60-0.80)، افحص أعداد القواعد الناتجة، واضبطها. عند تفعيل القيود، يمكنك غالبًا تحمل عتبات دعم أقل قليلاً لأن القواعد غير ذات الصلة يتم تصفيتها بواسطة شروط التسمية.
هل يمكن لهذه الطريقة التعامل مع الميزات المستمرة أو الرقمية؟
يعمل استخراج قواعد الارتباط بشكل أصلي على العناصر المنفصلة. يجب تقسيم الميزات المستمرة إلى فئات (bins) قبل الاستخراج. يؤثر اختيار استراتيجية التقسيم على مجموعات العناصر التي تصبح متكررة، لذلك يجدر تجربة التقسيم متساوي العرض، متساوي التردد، والتقسيم المدفوع بالمجال والتحقق من مدى حساسية النتائج للاختيار.
كيف أقوم بتقييم جودة القواعد المكتشفة؟
بالإضافة إلى الدعم والثقة، قم بتقييم القواعد باستخدام الرفع (القيم التي تزيد عن 1 تشير إلى تواجد مشترك حقيقي يتجاوز الصدفة)، والإدانة، والرافعة. إذا تم استخدام القواعد للتنبؤ، فقم بقياس دقة التصنيف، أو F1، أو AUC على مجموعة مصنفة مُحتفظ بها. مقاييس الاهتمام وحدها ليست كافية لتقييم الفائدة العملية.
طرق ذات صلة
المصادر
Liu, B., Hsu, W., & Ma, Y. (2003). Integrating Classification and Association Rule Mining. In Proceedings of the 4th IEEE International Conference on Data Mining (ICDM), pp. 339–346.
افتح مرجع المنشورتم النسخ.Association rule learning. Wikipedia.
افتح مرجع المنشورتم النسخ.