Yarı denetimli Birliktelik Kuralları
- Ortaya koyan
- Liu, B.; Hsu, W.; Ma, Y. (and subsequent researchers)
- Yıl
- 2003–2010s
- Tür
- Pattern mining with partial supervision
- Aile
- Machine learning
Bu metin makine çevirisidir ve henüz incelenmedi. Asıl metni İngilizce oku
Ne işe yarar?
Yarı denetimli birliktelik kuralı madenciliği, daha büyük bir etiketsiz veri kümesiyle birlikte az miktarda etiketlenmiş veriyi dahil ederek klasik birliktelik kuralı öğrenimini genişletir.
Kuralların hem istatistiksel olarak sık hem de anlamsal olarak anlamlı olmasını sağlamak için bilinen sınıf bilgisini veya kullanıcı tarafından sağlanan kısıtlamaları kullanır, böylece denetimsiz örüntü madenciliğini hafif denetimle birleştirir.
Yöntemin mantığı
Standart birliktelik kuralı madenciliği, neyin önemli olduğuna dair herhangi bir anlam olmaksızın tüm sık görülen eş-oluşum örüntülerini bulur. Yarı denetimli birliktelik kuralları, az sayıda etiketlenmiş örnek veya alan kısıtlamalarının aramayı yönlendirmesine izin vererek bunu değiştirir: bilinen sınıf yapısıyla uyumlu kurallar, istatistiksel olarak sık ancak anlamsız olanlara tercih edilir. Bunu, algoritma analistin neyle ilgilendiğine dair birkaç ipucu vermek gibi düşünebilirsiniz, böylece önemsiz veya zaten bilinen örüntüleri yüzeye çıkarmayı bırakır ve bunun yerine gerçekten yeni, eyleme geçirilebilir ilişkileri vurgular. Sonuç, denetimsiz örüntü keşfinin genişliğini, sonuçları ilgili tutmak için yeterli rehberlikle birleştirir.
Tarih
Birliktelik kuralı madenciliği, 1993 yılında Agrawal, Imielinski ve Swami tarafından pazar sepeti verilerinde sık görülen öğe kümelerinin denetimsiz keşfini hedefleyen Apriori algoritmasının tanıtılmasıyla biçimlendirilmiştir. Sınıf etiketlerinin ve kısıtlamaların birliktelik kuralı madenciliğine entegrasyonu, 2000'lerin başlarında, özellikle sınıf etiketlerini kural ardılları olarak ele alan Liu ve meslektaşlarının CMAR ve CBA çerçeveleri aracılığıyla ivme kazandı. Yarı denetimli uzantılar, araştırmacılar kısmi denetimin, etiketsiz verilerin istatistiksel katkısını korurken aday kuralların birleşme patlamasını azaltabileceğini fark ettikçe ortaya çıktı. Yaklaşım şimdi biyoinformatik, eğitim verileri madenciliği ve öneri sistemlerinde görülmektedir.
Ne zaman kullanılır?
Büyük bir işlemsel veya tablosal veri kümeniz olduğunda, bunun yalnızca bir kısmının sınıf etiketleri veya alan açıklamaları taşıdığı ve yalnızca sık görülen değil, gerçekten hedef bir kavramla ilgili olan eş-oluşum örüntülerini keşfetmeniz gerektiğinde yarı denetimli birliktelik kuralı madenciliğini kullanın. Bazı bilinen satın alma sonuçlarıyla pazar sepeti analizi, yalnızca vaka alt kümesinin doğrulanmış teşhisleri olduğu tıbbi kayıt madenciliği ve etiketlenmiş belgelerin az olduğu metin sınıflandırması için uygundur. Etiketlenmiş kısım ihmal edilebilir derecede küçükse (birkaç düzineden az etiketlenmiş örnek), tam denetim mümkünse veya yorumlanabilirlik gereksinimleri lojistik regresyon veya karar ağacı gibi daha basit bir model gerektiriyorsa bundan kaçının.
Sınırlar ve dikkat edilmesi gerekenler
- Kural kalitesi, etiketlenmiş tohum kümesinin kalitesine ve temsil gücüne büyük ölçüde bağlıdır; yanlı bir etiketlenmiş alt küme, keşfedilen kurallara yanlılık yayar.
- Destek, güven ve kısıtlama eşiklerinin birleşimi, etiketlenmiş doğrulama verileri olmadan ayarlanması zor büyük bir hiperparametre alanı oluşturur.
- Hesaplama maliyeti, aday öğe kümelerinin sayısıyla ölçeklenir; çok yüksek boyutlu öğe alanlarına sahip veri kümeleri agresif budama stratejileri gerektirir.
- Kendi kendine eğitim döngüleri, ilk sözde etiketler gürültülü ise erken hataları büyütebilir ve yinelemeler boyunca kural kaymasına neden olabilir.
Kaynak metnin koşulları, bağımsız bilimsel inceleme veya analiz motoru doğrulaması yerine geçmez.
Güçlü yönleri
- Yalnızca etiketlenmiş verilerle istatistiksel olarak görünmez olacak örüntüleri bulmak için bol miktarda etiketsiz veriden yararlanır.
- Etiketlerden türetilen kısıtlamalar ilgisiz kuralları budayarak, tamamen denetimsiz madencilikten daha küçük, daha eyleme geçirilebilir bir kural kümesi sağlar.
- Kurallar, klasik birliktelik kuralı öğreniminin yorumlanabilirlik avantajını koruyarak, insan tarafından okunabilir EĞER-O ZAMAN ifadeleri olarak kalır.
- Kendi kendine eğitim iyileştirmesi, ek etiketleme maliyeti olmadan hem kural kalitesini hem de sözde etiket kapsamını döngüsel olarak iyileştirebilir.
- Esnek: kısıtlamalar basit sınıf etiketlerinin ötesinde alan bilgisini (örneğin, zamansal sıralama, öğe hiyerarşileri) kodlayabilir.
Uygulama alanları
- Yalnızca hasta kayıtlarının bir alt kümesinin doğrulanmış teşhisler taşıdığı tıbbi kayıt madenciliği.
- Bilinen yüksek değerli satın alma sonuçları alt kümesiyle yönlendirilen pazar sepeti analizi.
- Küçük bir etiketlenmiş öğrenci performansı sonuçları kümesiyle ilişkili öğrenme davranışı örüntülerini keşfetmek için eğitim verileri madenciliği.
- Kıt etiketlenmiş veri kümeleriyle metin madenciliği ve belge sınıflandırması.
- Ağ olaylarının yalnızca bir kısmının saldırı olarak doğrulandığı saldırı tespiti.
- Öğe eş-oluşum kurallarını kısıtlamak için seyrek kullanıcı derecelendirmelerini kullanan öneri sistemleri.
Nasıl çalışır?
Nasıl çalışır?
Veri kümesi, küçük bir etiketlenmiş kısım (bilinen sınıf etiketleri veya kullanıcı tarafından belirtilen kısıtlamalarla) ve daha büyük bir etiketsiz kısım olarak bölünür. Etiketlenmiş örnekler, hedef kavram alanını tanımlayan tohumlar veya çapalar olarak hizmet ederken, etiketsiz işlemler güvenilir destek sayımlarını hesaplamak için gereken istatistiksel kütleyi sağlar.
Sık görülen öğe kümesi numaralandırması, hem etiketlenmiş hem de etiketsiz verilerde Apriori veya FP-Growth gibi klasik algoritmalar kullanılarak çalışır ve öğe kümesini içeren işlemlerin kesri olarak desteği hesaplar. Yalnızca minimum destek eşiğini aşan öğe kümeleri, kural üretimi için aday olarak tutulur.
Formül
\text{support}(X) = \frac{|\{t \in D : X \subseteq t\}|}{|D|} \geq \text{min\_sup}Etiketlerden türetilen veya kullanıcı tarafından belirtilen kısıtlamalar, aday alanını budamak için uygulanır. Kısıtlamalar, bir hedef sonucu içeren belirli kombinasyonları hariç tutan veya belirli bir hedef sonucu içeren kuralları kısıtlayan zorunlu bağlantı (iki öğenin hedef sınıfla birlikte ardıl olarak birlikte görünmesi gerekir), bağlantı olamaz veya sınıf etiketi filtreleri biçimini alabilir. Bu, yanlış veya gereksiz kural sayısını önemli ölçüde azaltır.
Hayatta kalan sık görülen öğe kümelerinden geçerli kurallar X, Y'yi ima eder, minimum bir güven eşiği ile filtrelenir. Güven, X verildiğinde Y'nin görünme koşullu olasılığını ölçer. Yarı denetimli bir ayarda, ardılı etiketlenmiş bir sınıfla veya kısıtlamayla uyumlu olan kurallara öncelik verilir veya daha yüksek ağırlık verilir.
Formül
\text{confidence}(X \Rightarrow Y) = \frac{\text{support}(X \cup Y)}{\text{support}(X)} \geq \text{min\_conf}Keşfedilen kurallar, daha önce etiketsiz işlemlere sözde etiketler atamak için döngüsel olarak kullanılabilir, bunlar daha sonra sonraki madencilik turlarına geri beslenir. Bu kendi kendine eğitim döngüsü, etiketlenmiş havuzu kademeli olarak zenginleştirir ve kural kümesini keskinleştirir, yeni yüksek güvenli kurallar bulunmadığında veya önceden tanımlanmış bir yineleme sınırı aşıldığında yakınsar.
Sık yapılan hatalar
- Minimum desteği, kısıtlamalar olmadan çok düşük ayarlamak, sonucu önemsiz derecede sık ancak bilgilendirici olmayan kurallarla doldurmak.
- Etiketlenmiş tohum kümesindeki sınıf dengesizliğini göz ardı etmek, bu da kısıtlama filtresinin keşfedilen kurallarda çoğunluk sınıfını aşırı temsil etmesine neden olur.
- Güveni tek ilginçlik ölçüsü olarak ele almak ve daha pratik olarak kullanışlı olan yüksek kaldırma veya ikna gücüne sahip kuralları kaçırmak.
- Kural tahmin kalitesinin tutulmuş bir değerlendirmesini atlamak ve madenciliği yapılmış kuralları görülmemiş veriler üzerinde doğrulama yapmadan olduğu gibi kabul etmek.
- Bulguları bildirirken birlikteliği (eş-oluşum) nedensellikle karıştırmak.
Sık sorulan sorular
Bu, standart birliktelik kuralı madenciliğinden nasıl farklıdır?
Standart birliktelik kuralı madenciliği tamamen denetimsizdir: belirli bir hedef sınıf kavramı olmadan destek ve güven eşiğinin üzerindeki tüm eş-oluşum örüntülerini bulur. Yarı denetimli birliktelik kuralları, belirli bir sonuçla ilgili kuralları filtrelemek ve önceliklendirmek için kısmi etiket bilgisini veya alan kısıtlamalarını içerir, bu da daha küçük ve daha eyleme geçirilebilir bir sonuç kümesi üretir.
Ne kadar etiketlenmiş veriye ihtiyaç var?
Küçük bir etiketlenmiş küme bile faydalı kısıtlamalar sağlayabilir, ancak tohumların kalitesi miktardan daha önemlidir. Uygulamada, ciddi şekilde yanlı kısıtlamalardan kaçınmak için her sınıf için en az birkaç düzine etiketlenmiş örneğe sahip olmak tavsiye edilir. Etiketler son derece seyrekse, sonuçlar tutulmuş bir etiketli alt küme üzerinde dikkatlice doğrulanmalıdır.
Destek ve güven için hangi eşikleri ayarlamalıyım?
Evrensel bir cevap yoktur: eşikler veri kümesi boyutuna, alana ve gerçekçi olarak kaç kuralı değerlendirebileceğinize bağlıdır. Orta düzeyde eşiklerle başlayın (örneğin, destek 0.05–0.10, güven 0.60–0.80), sonuçta ortaya çıkan kural sayılarını inceleyin ve ayarlayın. Kısıtlamalar aktif olduğunda, ilgisiz kurallar etiket koşulları tarafından filtrelendiği için genellikle biraz daha düşük destek eşiklerini karşılayabilirsiniz.
Bu yöntem sürekli veya sayısal özellikleri işleyebilir mi?
Birliktelik kuralı madenciliği doğal olarak ayrık öğeler üzerinde çalışır. Sürekli özellikler madencilikten önce kutulara ayrılmalıdır. Gruplama stratejisinin seçimi, hangi öğe kümelerinin sık hale geldiğini etkiler, bu nedenle eşit genişlikte, eşit sıklıkta ve alan güdümlü gruplama ile denemeler yapmak ve sonuçların seçime ne kadar duyarlı olduğunu kontrol etmek değerlidir.
Keşfedilen kuralların kalitesini nasıl değerlendiririm?
Destek ve güvenin ötesinde, kuralları kaldırma (şansın ötesinde gerçek eş-oluşumu gösteren 1'in üzerindeki değerler), ikna gücü ve kaldıraç kullanarak değerlendirin. Kurallar tahmin için kullanılıyorsa, tutulmuş bir etiketli küme üzerinde sınıflandırma doğruluğunu, F1'i veya AUC'yi ölçün. İlginçlik ölçüleri, pratik faydayı değerlendirmek için yeterli değildir.
İlgili yöntemler
Kaynaklar
Liu, B., Hsu, W., & Ma, Y. (2003). Integrating Classification and Association Rule Mining. In Proceedings of the 4th IEEE International Conference on Data Mining (ICDM), pp. 339–346.
Yayın kaynağını açKopyalandı.Association rule learning. Wikipedia.
Yayın kaynağını açKopyalandı.