الانتقال إلى المحتوى
العودة إلى نتائج البحث

تعلم المقاييس

قدّمه
Xing, E. P.; Jordan, M. I.; Russell, S.; Ng, A. Y.
السنة
2003 (foundational); refined 2009 (LMNN)
النوع
Representation learning / supervised distance optimization
العائلة
Machine learning

هذا النص ترجمة آلية ولم تتم مراجعته بعد. اقرأ النص الأصلي بالإنجليزية

حجم الخط

ماذا تفعل؟

تعلم المقاييس هو إطار عمل للتعلم الآلي يقوم بتدريب دالة مسافة أو تشابه من البيانات بحيث تتقارب الأمثلة المتشابهة دلاليًا في الفضاء المتعلم بينما تتباعد الأمثلة غير المتشابهة. على عكس المسافات الثابتة مثل المسافة الإقليدية، يتكيف المقياس المتعلم مع بنية المهمة، مما يجعل المصنفات والمجمعات وأنظمة الاسترجاع اللاحقة أكثر دقة بشكل ملحوظ.

الفكرة الحدسية وراء الطريقة

المسافات القياسية مثل الإقليدية تتعامل مع جميع أبعاد الميزات على قدم المساواة. ولكن في العديد من المشكلات، تكون بعض الميزات أكثر إفادة بكثير من غيرها، وتختلف الأبعاد ذات الصلة حسب الفئة. تعلم المقاييس يشبه تدريب المسطرة: بالنظر إلى معلومات حول أي أزواج من الأمثلة يجب أن تكون قريبة وأيها يجب أن تكون متباعدة، فإنه يعدل هندسة فضاء الميزات بحيث يحصل مصنف أقرب جار بسيط أو خوارزمية تجميع على التجميعات الصحيحة على الفور. يلتقط الفضاء المتعلم بشكل فعال ما يعنيه "التشابه" للمهمة المحددة.

التاريخ

تم تأسيس الإطار الحديث بواسطة Xing et al. (2003)، الذين صاغوا تعلم المقاييس كمشكلة تحسين محدبة مع قيود زوجية. قدم Weinberger و Saul (2009) أقرب جار بهامش كبير (LMNN)، مما وضع معيارًا جديدًا للمهام القائمة على k-NN. تسارع المجال مع تعلم المقاييس العميق: قام Chopra et al. (2005) بتعميم الشبكة السيامية مع الخسارة التباينية، وقدم Schroff et al. (2015) خسارة ثلاثي FaceNet للتحقق من الوجه على نطاق واسع. اليوم، يدعم تعلم المقاييس الكثير من أبحاث التعلم قليل اللقطات وتمثيل الرؤية.

متى تُستخدم

استخدم تعلم المقاييس عندما تكون المهمة اللاحقة قائمة على التشابه بطبيعتها — على سبيل المثال، التصنيف قليل اللقطات، التحقق من الوجه، استرجاع الصور الطبية، تحديد المتحدث، أو التوصية بالمنتجات — وعندما يكون أداء المسافة الإقليدية الثابتة ضعيفًا لأن الميزات لها أهمية غير متساوية. إنه يتفوق مع مجموعات البيانات المصنفة متوسطة إلى كبيرة والمدخلات عالية الأبعاد مثل الصور أو تضمينات النصوص. تجنبه عندما يكون لديك عدد قليل جدًا من الأمثلة المصنفة لكل فئة (أقل من حوالي 5-10 لكل فئة)، أو عندما يكون الهدف النهائي هو انحدار جدولي بسيط أو تصنيف يخدمه جيدًا الانحدار اللوجستي أو تعزيز التدرج، أو عندما تكون قابلية التفسير من حيث معاملات الميزات الصريحة مطلوبة.

الحدود والاعتبارات

  • تتطلب خسائر الثلاثي والتباين تنقيبًا دقيقًا عن الأزواج/الثلاثيات؛ يؤدي أخذ العينات العشوائي إلى أزواج سهلة وغير مفيدة في الغالب ويبطئ التدريب بشكل كبير.
  • تتوسع طرق ماهالانوبيس الخطية بشكل تربيعي مع أبعاد الميزات، لتصبح باهظة التكلفة في الأبعاد العالية جدًا بدون تقليل الأبعاد.
  • يتطلب بيانات مصنفة أو مقيدة زوجيًا؛ تحد الإعدادات غير الخاضعة للإشراف تمامًا مما يمكن تعلمه بدون افتراضات إضافية.
  • التقييم غير مباشر — يجب تقييم جودة المقياس من خلال مهمة لاحقة، وليس قيمة خسارة واحدة.

لا تغني شروط المصدر عن المراجعة العلمية المستقلة أو التحقق بواسطة محرك تحليل.

نقاط القوة

  • يكيف هندسة فضاء الميزات مع المهمة المحددة، مما يعزز بشكل كبير دقة أقرب جار والتجميع.
  • يمكّن التعرف قليل اللقطات: بمجرد تعلم مقياس جيد، يتطلب تصنيف الفئات الجديدة عددًا قليلاً فقط من الأمثلة.
  • ينتقل جيدًا عبر المجالات — يمكن ضبط مقياس تم تعلمه على مجموعة بيانات واحدة لمهمة ذات صلة ببيانات إضافية قليلة.
  • مستقل عن النموذج: يمكن للتضمين المتعلم أن يغذي أي خوارزمية لاحقة (k-NN، SVM، k-means) دون إعادة تدريب تلك المكونات.
  • تتوسع الصيغ التباينية والثلاثية لتشمل مجموعات بيانات كبيرة جدًا عبر أخذ العينات الدفعية المصغرة.

التطبيقات

  • التحقق من الوجه والتعرف عليه: تعلم ما إذا كانت صورتان للوجه تظهران نفس الشخص.
  • تصنيف الصور قليل اللقطات: تصنيف فئات بصرية جديدة من مثال واحد أو عدد قليل من الأمثلة.
  • استرجاع الصور الطبية: العثور على مناطق مسح أو بقع نسيجية متشابهة في قواعد بيانات كبيرة.
  • التحقق من المتحدث والصوت في أنظمة المصادقة البيومترية.
  • التوصية بالمنتجات والبحث البصري في التجارة الإلكترونية.

كيف يعمل

كيف يعمل

1

من البيانات المصنفة أو المعنونة زوجيًا، يتم تعريف الأزواج الإيجابية (نفس الفئة أو متشابهة بشكل صريح) والأزواج السلبية (فئة مختلفة أو غير متشابهة بشكل صريح). هذه القيود تشفر ما تعنيه "قريب" و"بعيد" للمهمة، وتشكل إشارة الإشراف لتدريب المقياس.

2

يتم اختيار دالة مسافة بارامترية — غالبًا ما تكون مسافة ماهالانوبيس التي تحكمها مصفوفة M شبه موجبة محددة، أو دالة تضمين شبكة عصبية متبوعة بمسافة إقليدية أو جيب التمام. تعمل المصفوفة M على تعميم التحجيم المحاذي للمحور ليشمل إعادة ترجيح كاملة عبر الميزات.

الصيغة
d_M(x_i,x_j)=\sqrt{(x_i-x_j)^\top M (x_i-x_j)},\; M \succeq 0
3

تتم صياغة دالة هدف لتقريب الأزواج الإيجابية ودفع الأزواج السلبية بعيدًا مع احترام هامش أو قيد مرن. تشمل الأهداف الشائعة الخسارة التباينية (contrastive loss)، وخسارة الثلاثي (triplet loss) (مسافة المرساة-الإيجابية أقل من مسافة المرساة-السلبية بهامش)، أو خسارة المفصل لأقرب جار بهامش كبير (LMNN).

4

يتم تحسين معلمات المقياس (M أو أوزان الشبكة العصبية) عبر الانحدار التدرجي أو البرمجة شبه المحددة. تعد استراتيجيات أخذ العينات الدفعية المصغرة مثل التنقيب عن السلبيات الصعبة (hard negative mining) حاسمة للأهداف القائمة على الثلاثيات: يميل أخذ العينات العشوائي إلى إنتاج ثلاثيات غير مفيدة تبطئ التقارب.

5

عند الاستدلال، يتم تطبيق المقياس أو التضمين المتعلم على بيانات جديدة. تعمل المهام اللاحقة — تصنيف أقرب جار، تجميع k-means، استرجاع الصور، أو التوصية — في الفضاء المتعلم، حيث تعكس المسافة بدقة التشابه الدلالي.

الأخطاء الشائعة

  • استخدام أخذ عينات ثلاثي عشوائي بدلاً من التنقيب عن السلبيات الصعبة أو شبه الصعبة، مما يؤدي إلى تدرج قريب من الصفر وتوقف التدريب.
  • تقييم المقياس فقط على فئات التدريب؛ قد يكون الأداء على الفئات غير المرئية (هدف التعميم الفعلي) أقل بكثير.
  • إهمال تطبيع التضمينات قبل حساب تشابه جيب التمام، مما يسبب تشوهات في المقياس.
  • التعامل مع التضمين المتعلم على أنه قابل للتفسير من حيث الميزات الأصلية دون تحليل إضافي مثل الفحص الخطي أو SHAP.
  • تطبيق مقياس متعلم على تحول المجال (توزيع بيانات مختلف) دون إعادة التحقق أو الضبط الدقيق.

الأسئلة الشائعة

ما الفرق بين تعلم المقاييس والتعلم التبايني؟

التعلم التبايني هو عائلة محددة من أهداف تعلم المقاييس (مثل الخسارة التباينية، SimCLR) التي تقارن الأزواج الإيجابية والسلبية. تعلم المقاييس هو الإطار الأوسع الذي يشمل أيضًا طرق ماهالانوبيس، وخسائر الثلاثي، والأهداف القائمة على الوكيل.

كم عدد الأمثلة لكل فئة أحتاجها؟

يمكن أن تعمل طرق ماهالانوبيس الخطية مع ما لا يقل عن 10-20 مثالًا لكل فئة. يتطلب تعلم المقاييس العميق عمومًا عشرات إلى مئات الأمثلة لكل فئة لتعلم تضمينات مفيدة، على الرغم من أن الشبكات الخلفية المدربة مسبقًا يمكن أن تقلل هذا المتطلب بشكل كبير.

هل تعلم المقاييس هو نفسه تقليل الأبعاد؟

ليس بالضبط. طرق مثل PCA أو UMAP تقلل الأبعاد بدون إشراف مباشر. يستخدم تعلم المقاييس إشراف الفئة أو الأزواج لتشكيل الهندسة، بحيث يكون الفضاء الناتج مميزًا للمهمة، وليس مجرد مدمج.

هل يمكن لتعلم المقاييس التعامل مع الفئات غير المتوازنة؟

نعم، ولكن يجب أن يكون أخذ عينات الأزواج/الثلاثيات طبقيًا لتجنب هيمنة الفئة المهيمنة على الدفعة. خسائر الوكيل (Proxy-NCA، Proxy-Anchor) أكثر قوة في مواجهة عدم توازن الفئات من أخذ عينات الثلاثي.

متى يجب أن أستخدم تعلم المقاييس بدلاً من المصنف القياسي؟

فضل تعلم المقاييس عندما تحتاج إلى التعميم على فئات غير مرئية في وقت التدريب (التعرف على المجموعات المفتوحة، التعلم قليل اللقطات)، أو عندما تكون المهمة استرجاعًا بدلاً من التنبؤ بفئة ثابتة.

طرق ذات صلة

المصادر

  1. Xing, E. P., Jordan, M. I., Russell, S., & Ng, A. Y. (2003). Distance metric learning with application to clustering with side-information. In Advances in Neural Information Processing Systems (NIPS), 16, 505–512.

    افتح مرجع المنشور
    تم النسخ.
  2. Weinberger, K. Q., & Saul, L. K. (2009). Distance metric learning for large margin nearest neighbor classification. Journal of Machine Learning Research, 10, 207–244.

    افتح مرجع المنشور
    تم النسخ.