cleoanka

etkileşimli bir sayfa · yarı denetimli öğrenme

Bir etiket yeter mi?

Noktalar bir manifold üzerinde yaşıyorsa, birkaç etiket bütün şekle yayılabilir. Ama sadece komşuluk grafiği dürüstse.

canvas ve kod, bağımlılık yok · GitHub’da atlas


1

Veri bir şekil üzerinde yaşar

Etiketlemek pahalıdır, etiketsiz veri ise boldur. Yarı denetimli öğrenmenin sezgisi basit: veri noktaları uzayda rastgele saçılmaz, düşük boyutlu bir manifoldun üzerinde yaşar. Aynı yüzeyin üstünde birbirine yakın duran noktalar büyük olasılıkla aynı sınıftandır. O halde birkaç etiketi bu yüzey boyunca yaymak, etiketsiz noktaları da sınıflandırmaya yetebilir.

Yüzeyi bilmiyoruz ama ona yaklaşabiliriz: her noktayı en yakın k komşusuna bağlayan bir grafik kur. Sonra etiketleri bu grafikte ısı gibi yay; her nokta komşularının ortalamasını alır, etiketli noktalar değerlerini korur. Buna etiket yayılımı denir.

FIG. 1 — Noktalara tıklayarak etiket ver (renk seçimi aşağıda) ya da sınıf başına bir rastgele etiket iste. Yayılım canlı işler; doğruluk, etiketsiz noktaların gerçek sınıflarıyla karşılaştırılarak hesaplanır. Kırmızı çizgiler iki farklı sınıfı birbirine bağlayan, yani yalan söyleyen kenarlar.

İki ayda sınıf başına tek bir etiket çoğu zaman yeter. Gürültüyü artır ya da k’yı büyüt: iki ay arasında köprü kuran kırmızı kenarlar belirir ve etiket o köprüden karşıya sızar. Grafiğin dürüstlüğü, etiketlerin sayısından daha önemlidir.

2

Kenar saflığı ve faz geçişi

k çok küçükken grafik adacıklara bölünür: etiketi olmayan bir adacığa hiçbir bilgi ulaşamaz. k çok büyükken ise her nokta uzaktaki, yanlış sınıftan noktalara da bağlanır ve saflık düşer. Aradaki dar bir bantta grafik hem bağlı hem dürüsttür. atlas’ın asıl bulgusu bu: sınıf başına tek etiket, metrik yeterince iyiyse MNIST’in yaklaşık yüzde 95’ini geri kazandırır; metrik kötüyse aynı yöntem zarar verir.

FIG. 2 — Solda k’ya göre doğruluk (altın), kenar saflığı (yeşil) ve etiketli bir noktaya bağlı olan noktaların oranı (mavi); sınıf başına bir etiketle, sekiz rastgele tekrarın ortalaması. Sağda, seçili k’da sınıf başına etiket sayısına göre doğruluk; çubuklar tekrarlar arasındaki en düşük ve en yüksek değer.

Eğrilerde iki kenar görürsün: soldaki uçurum bağlantının kopmasından, sağdaki yavaş düşüş saflığın bozulmasından gelir. Etiket eklemek soldaki uçurumu kapatır ama kirli bir grafiği tam olarak kurtaramaz. atlas bu dengeyi MNIST üzerinde, farklı metriklerle ve etiket bütçeleriyle tekrarlanabilir biçimde ölçer.

k-nn
Her noktayı en yakın k komşusuna bağlayan, manifoldu yaklaştıran grafik.
yayılım
Etiketleri grafik üzerinde ısı gibi yaymak; etiketli noktalar sabit kalır.
saflık
Aynı sınıfı bağlayan kenarların oranı; etiket sayısından daha belirleyici.