k-Nächste-Nachbarn (k-NN)

Klicke in den Plot, um einen neuen Punkt zu setzen. Der Algorithmus findet die k nächsten Nachbarn und klassifiziert per Mehrheitsentscheid.

Distanzmetrik

k = 3

Klick = neuen Testpunkt setzen (gelb). Die k nächsten Nachbarn werden verbunden.

So funktioniert k-NN

1. Berechne die Distanz: $d = \sqrt{(x_1 - x_2)^2 + (y_1 - y_2)^2}$

2. Finde die k nächsten Nachbarn.

3. Mehrheitsentscheid: $\hat{y} = \text{mode}(y_1, \ldots, y_k)$

Ergebnis

Klicke in den Plot...

–

Nachbarn (sortiert)

Noch kein Testpunkt gesetzt.

Tipp: Ändere k und beobachte, wie sich die Klassifikation ändert. Bei k=1 entscheidet nur der nächste Nachbar. Bei größerem k wird die Entscheidung stabiler, aber unschärfer.

k = 1

Nächster Nachbar entscheidet allein

–

k = 3

3 Nachbarn stimmen ab

–

k = 5

5 Nachbarn stimmen ab

–