القاعدة الاستقرائية (RIPPER)
- معرفیشده توسط
- William W. Cohen
- سال
- 1995
- نوع
- Supervised rule learning algorithm
- خانواده
- Rule learning
این متن ترجمه ماشینی است و هنوز بازبینی نشده است. متن اصلی را به انگلیسی بخوانید
چه کاری انجام میدهد؟
القاعدة الاستقرائية، وبالتحديد خوارزمية RIPPER (التشذيب المتزايد المتكرر لإنتاج تقليل الخطأ)، هي طريقة تعلم آلي خاضعة للإشراف تتعلم مجموعة مدمجة من قواعد التصنيف IF-THEN من بيانات تدريب مصنفة. تم تقديم RIPPER بواسطة ويليام دبليو كوهين في عام 1995، وتطبق استراتيجية الفصل والتغلب (separate-and-conquer) جنبًا إلى جنب مع تشذيب الحد الأدنى لطول الوصف (MDL) لتوليد قواعد دقيقة وقابلة للتفسير، مما يجعلها خوارزمية بارزة في مجال تعلم القواعد الاستقرائية.
شهود پشت روش
تخيل كتابة قائمة تدقيق تشخيصية للطبيب: كل قاعدة تلتقط مجموعة محددة من الأعراض التي تتنبأ بشكل موثوق بالتشخيص. تقوم RIPPER ببناء قائمة التدقيق هذه تلقائيًا من بيانات المرضى. تقوم بصياغة قاعدة واحدة في كل مرة، وتغطي أكبر عدد ممكن من الحالات الإيجابية، ثم تتحقق من كل قاعدة على مجموعة منفصلة لإزالة الشروط المحددة للغاية. النتيجة هي كتاب قواعد قصير وسهل القراءة يمكن تطبيقه على مرضى جدد دون الحاجة إلى فحص تاريخ التدريب بأكمله.
تاریخ
تعود القاعدة الاستقرائية إلى أنظمة التعلم الآلي المبكرة مثل AQ (Michalski, 1969) و CN2 (Clark and Niblett, 1989). عالجت ورقة RIPPER لكوهين عام 1995 عدم الكفاءة الحسابية وميول الإفراط في التجهيز لأسلافها من خلال تقديم التشذيب التدريجي والتحسين المستند إلى MDL. تم تقديم RIPPER في ICML 1995، وسرعان ما أصبحت خوارزمية قياسية بسبب دقتها التنافسية وشفافيتها، ولا تزال مرجعًا قياسيًا في أدبيات تعلم القواعد والكتب المدرسية.
چه زمانی استفاده شود
تعتبر القاعدة الاستقرائية باستخدام RIPPER مناسبة عندما يكون تفسير النموذج مطلبًا أساسيًا، مثل دعم القرار السريري، أو اكتشاف الاحتيال، أو إعدادات الامتثال التنظيمي. تعمل مع الميزات الاسمية والرقمية المختلطة وتتوسع بشكل معقول لعشرات الآلاف من الحالات. تفترض RIPPER أن تسميات التدريب موثوقة بما فيه الكفاية وأن حدود القرار الأساسية يمكن تقريبها بالاقترانات المحاذية للمحاور. إنها أقل ملاءمة لمساحات الميزات المستمرة عالية الأبعاد أو المهام التي تتطلب مخرجات معايرة احتمالية؛ في تلك الحالات، قد يُفضل استخدام أشجار الانحدار المعززة أو الانحدار اللوجستي.
محدودیتها و ملاحظات
- تتدهور جودة القاعدة بشكل كبير في مساحات الميزات عالية الأبعاد جدًا أو المتفرقة
- قوائم القواعد المرتبة حساسة لترتيب الفئات؛ قد تحصل الفئات الأقلية التي يتم تعلمها لاحقًا على قواعد أضعف
- لا تنتج تقديرات احتمالية معايرة، مما يحد من الاستخدام في المهام الحساسة للتكلفة أو التصنيف
- لا يمكن للقواعد المقترنة التقاط التفاعلات المعقدة التي تتطلب حدودًا غير محاذية للمحاور دون هندسة الميزات
شرایط منبع جایگزین بررسی علمی مستقل یا اعتبارسنجی توسط موتور تحلیل نیست.
نقاط قوت
- تنتج قواعد IF-THEN قابلة للقراءة البشرية يمكن لخبراء المجال مراجعتها والتحقق منها
- التعلم الفعال بالفصل والتغلب مع التشذيب الموجه بـ MDL يقلل من الإفراط في التجهيز
- تتعامل مع السمات الاسمية والرقمية دون الحاجة إلى معالجة مسبقة مكثفة
- وقت تدريب سريع بشكل عام مقارنة بالطرق التجميعية لأحجام مجموعات البيانات المعتدلة
کاربردها
- دعم القرار السريري واستخراج قواعد التشخيص الطبي
- اكتشاف الاحتيال والشذوذ في مراقبة المعاملات المالية
- تصنيف النصوص باستخدام الميزات المعجمية والهيكلية
- اكتشاف التسلل الشبكي باستخدام قواعد تنبيه قابلة للتفسير
- التنبؤ بتوقف العملاء باستخدام قواعد عمل قابلة للتنفيذ
چگونه کار میکند
چگونه کار میکند
تعالج RIPPER فئة واحدة في كل مرة، وتعامل جميع الحالات المتبقية كمجموعة سلبية. تنمو بشكل جشع قاعدة مقترنة عن طريق إضافة الشرط الذي يزيد نسبة الحالات الإيجابية إلى إجمالي الحالات المغطاة بشكل متكرر. بمجرد نموها، يتم الالتزام بالقاعدة وإزالة جميع الحالات التي تغطيها قبل تعلم القاعدة التالية، باتباع نموذج الفصل والتغلب الكلاسيكي الذي وصفه كوهين (1995).
فرمول
\text{For each class } c \in \mathcal{C} \text{, grow a rule } R: \text{cond} \Rightarrow c \text{ maximizing } \frac{p}{p+n}يتم تشذيب كل قاعدة مرشحة على قسم تحقق منفصل باستخدام المقياس (p - n) / (p + n)، حيث يمثل p و n عدد الحالات المغطاة بشكل صحيح وغير صحيح على التوالي. يتم حذف الشروط من ذيل القاعدة إلى الداخل طالما أن التشذيب يزيد هذه القيمة، مما يحمي من الإفراط في التجهيز الناجم عن الاقترانات المحددة للغاية التي تتناسب مع مجموعة التدريب.
فرمول
\text{Prune rule } R \text{ by removing conditions to maximize } v(R, \text{prune set}) = \frac{p - n}{p + n}بعد تعلم جميع القواعد لكل فئة على حدة، تقوم RIPPER بتشغيل مرحلة تحسين اختيارية موجهة بمبدأ الحد الأدنى لطول الوصف. لكل قاعدة في المجموعة النهائية، تنظر الخوارزمية في استبدالها أو مراجعتها وتقبل التغيير فقط إذا قلل طول الوصف المشترك لمجموعة القواعد والبيانات المصنفة بشكل خاطئ المتبقية، مما يوازن بين الدقة وتعقيد النموذج.
فرمول
\text{Minimize description length: } DL(\text{ruleset}) + DL(\text{data} \mid \text{ruleset})عند وقت التنبؤ، يتم تطبيق القواعد بالترتيب الذي تم تعلمها به. يتم تعيين تسمية الفئة لحالة غير مرئية بواسطة القاعدة الأولى التي يتم استيفاء جميع شروطها بواسطة قيم ميزات تلك الحالة. إذا لم تنطبق أي قاعدة، تقع الحالة ضمن فئة افتراضية، عادةً ما تكون الفئة الأغلبية من بيانات التدريب، مما يضمن تغطية كاملة لمساحة الإدخال.
فرمول
\hat{y} = c_k \text{ where } R_k \text{ is the first rule in the ordered list that fires on instance } \mathbf{x}دامهای رایج
- تطبيق RIPPER على مجموعات بيانات صغيرة بدون بيانات تشذيب كافية يؤدي إلى قواعد مفرطة التشذيب ومنخفضة التغطية
- تجاهل عدم توازن الفئات يتسبب في امتصاص الفئة الافتراضية للفئة الأقلية، مما يخفي ضعف استدعاء الفئة الأقلية
- معاملة ترتيب القاعدة المتعلمة كسببية بدلاً من تنبؤية يؤدي إلى سوء تفسير في التحليلات الاستكشافية
- تخطي مرحلة تحسين MDL (المتوفر في بعض التطبيقات) قد يترك قواعد زائدة عن الحاجة أو متعارضة في المجموعة النهائية
پرسشهای متداول
كيف تختلف RIPPER عن شجرة القرار؟
كلاهما يتعلم حدودًا محاذية للمحاور، لكن أشجار القرار تقسم مساحة الميزات بأكملها بشكل متكرر، مما ينتج عنه هيكل هرمي. بدلاً من ذلك، تتعلم RIPPER قائمة مرتبة من القواعد باستخدام الفصل والتغلب، والتي يمكن أن تنتج تمثيلات أكثر إيجازًا عندما تكون الأنماط القليلة الخاصة بالفئة هي المهمة فقط. القواعد أيضًا أسهل لخبراء المجال في القراءة بشكل منفصل من مسارات الشجرة.
هل يمكن لـ RIPPER التعامل مع مشاكل متعددة الفئات؟
نعم. تمتد RIPPER إلى الإعدادات متعددة الفئات عن طريق تعلم قواعد لكل فئة بدوره، مرتبة من الفئة الأندر إلى الأكثر تكرارًا. يتم إزالة الحالات التي تغطيها القواعد للفئات السابقة قبل تعلم القواعد للفئات اللاحقة. قاعدة افتراضية تعين الفئة الأغلبية لأي حالة لا تغطيها القواعد الصريحة.
ما هو دور مبدأ الحد الأدنى لطول الوصف في RIPPER؟
يوفر MDL معيارًا رسميًا لموازنة تعقيد القاعدة مع ملاءمة البيانات. في مرحلة التحسين، تفضل RIPPER مجموعات القواعد التي يكون طول وصفها الإجمالي - الذي يشمل ترميز القواعد والبيانات المصنفة بشكل خاطئ - أقصر. هذا يمنع الخوارزمية من الاحتفاظ بقواعد محددة للغاية تقوم بحفظ الضوضاء بدلاً من التقاط الأنماط الحقيقية في البيانات.
روشهای مرتبط
منابع
Cohen, W. W. (1995). Fast effective rule induction. Proceedings of the 12th International Conference on Machine Learning, 115–123.
باز کردن مرجع DOIکپی شد.