Veri bir şekil üzerinde yaşar
Etiketlemek pahalıdır, etiketsiz veri ise boldur. Yarı denetimli öğrenmenin sezgisi basit: veri noktaları uzayda rastgele saçılmaz, düşük boyutlu bir manifoldun üzerinde yaşar. Aynı yüzeyin üstünde birbirine yakın duran noktalar büyük olasılıkla aynı sınıftandır. O halde birkaç etiketi bu yüzey boyunca yaymak, etiketsiz noktaları da sınıflandırmaya yetebilir.
Yüzeyi bilmiyoruz ama ona yaklaşabiliriz: her noktayı en yakın k komşusuna bağlayan bir grafik kur. Sonra etiketleri bu grafikte ısı gibi yay; her nokta komşularının ortalamasını alır, etiketli noktalar değerlerini korur. Buna etiket yayılımı denir.
İki ayda sınıf başına tek bir etiket çoğu zaman yeter. Gürültüyü artır ya da k’yı büyüt: iki ay arasında köprü kuran kırmızı kenarlar belirir ve etiket o köprüden karşıya sızar. Grafiğin dürüstlüğü, etiketlerin sayısından daha önemlidir.
Kenar saflığı ve faz geçişi
k çok küçükken grafik adacıklara bölünür: etiketi olmayan bir adacığa hiçbir bilgi ulaşamaz. k çok büyükken ise her nokta uzaktaki, yanlış sınıftan noktalara da bağlanır ve saflık düşer. Aradaki dar bir bantta grafik hem bağlı hem dürüsttür. atlas’ın asıl bulgusu bu: sınıf başına tek etiket, metrik yeterince iyiyse MNIST’in yaklaşık yüzde 95’ini geri kazandırır; metrik kötüyse aynı yöntem zarar verir.
Eğrilerde iki kenar görürsün: soldaki uçurum bağlantının kopmasından, sağdaki yavaş düşüş saflığın bozulmasından gelir. Etiket eklemek soldaki uçurumu kapatır ama kirli bir grafiği tam olarak kurtaramaz. atlas bu dengeyi MNIST üzerinde, farklı metriklerle ve etiket bütçeleriyle tekrarlanabilir biçimde ölçer.
- k-nn
- Her noktayı en yakın k komşusuna bağlayan, manifoldu yaklaştıran grafik.
- yayılım
- Etiketleri grafik üzerinde ısı gibi yaymak; etiketli noktalar sabit kalır.
- saflık
- Aynı sınıfı bağlayan kenarların oranı; etiket sayısından daha belirleyici.