Das Skalarprodukt: Mehr als nur Zahlen multiplizieren

Ich bin dem Skalarprodukt (englisch: dot product) in verschiedenen Kontexten begegnet - in der Physik, beim Machine Learning, in Grafik-Engines. Die algebraische Definition als “Vektoren komponentenweise multiplizieren und aufsummieren” ist einfach genug. Interessant wird es erst durch die verschiedenen geometrischen und praktischen Interpretationen.

Drei Perspektiven

1. Geometrisch: Richtungsähnlichkeit

Das Skalarprodukt misst, wie stark zwei Vektoren in die gleiche Richtung zeigen. Bei einem Wanderweg nach Nordosten und Wind von Westen wäre das Skalarprodukt dieser beiden Vektoren negativ (Gegenwind). Käme der Wind von hinten, wäre es positiv (Rückenwind). Bei Seitenwind wäre es nahe Null.

Diese Interpretation ist oft intuitiver als die algebraische Definition.

2. Physikalisch: Arbeit = Kraft · Weg

In der Physik ist Arbeit definiert als:

Nur die Kraftkomponente in Bewegungsrichtung verrichtet Arbeit. Wenn ich einen Koffer schräg nach oben ziehe, während er horizontal rollt, trägt nur die horizontale Komponente zur Arbeit bei.

Das Skalarprodukt filtert automatisch die relevante Komponente heraus.

3. Machine Learning: Ähnlichkeit quantifizieren

Im Machine Learning wird das Skalarprodukt verwendet, um Ähnlichkeit zu messen:

• Suchmaschinen: Relevanz eines Dokuments zur Suchanfrage
• Recommender Systems: Ähnlichkeit zwischen Nutzern oder Items
• Neuronale Netze: Jedes Neuron berechnet ein Skalarprodukt aus Input und Gewichten

Die Cosine-Similarity, eine normalisierte Variante, ist ein Standardwerkzeug.

Definition

Für zwei Vektoren \(\vec{a}\) und \(\vec{b}\) im \(\mathbb{R}^n\):

Beispiel in 2D

Beispiel in 3D

Geometrische Formel

Das Skalarprodukt lässt sich auch geometrisch ausdrücken:

wobei \(\theta\) der Winkel zwischen den Vektoren ist.

Diese Darstellung zeigt: Das Skalarprodukt kodiert den Winkel zwischen Vektoren.

• \(\theta = 0°\) (parallel): \(\cos(0°) = 1\) → Maximum
• \(\theta = 90°\) (senkrecht): \(\cos(90°) = 0\) → Null
• \(\theta = 180°\) (entgegengesetzt): \(\cos(180°) = -1\) → Maximal negativ

Algebraische und geometrische Definition sind äquivalent.

Beweis der Äquivalenz (2D-Fall)

Der Zusammenhang zwischen beiden Definitionen lässt sich direkt zeigen. Im 2D-Fall:

Zwei Vektoren in Komponentendarstellung:

Diese Vektoren lassen sich auch über Betrag und Winkel ausdrücken:

wobei \(\alpha\) und \(\beta\) die Winkel zur x-Achse sind.

Das algebraische Skalarprodukt:

Einsetzen der Winkeldarstellung:

Mit dem Additionstheorem \(\cos(\alpha - \beta) = \cos(\alpha)\cos(\beta) + \sin(\alpha)\sin(\beta)\):

Der Winkel zwischen den Vektoren ist \(\theta = \alpha - \beta\), also:

Damit ist gezeigt: Die algebraische Definition führt direkt zur geometrischen Formel. Der Beweis für höhere Dimensionen funktioniert analog, ist aber aufwendiger.

Wichtige Eigenschaften

Kommutativität

Die Reihenfolge ist egal.

Distributivität

Orthogonalität

Zwei Vektoren sind orthogonal (senkrecht), wenn:

Beispiel:

Die Vektoren sind orthogonal.

Praktische Anwendungen

1. Winkel zwischen Vektoren berechnen

Aus der geometrischen Formel folgt:

2. Projektion eines Vektors

Die Projektion von \(\vec{b}\) auf \(\vec{a}\):

Die Länge der Projektion (skalare Komponente):

3. Cosine-Similarity

Ähnlichkeit zwischen zwei Vektoren, unabhängig von ihrer Länge:

Werte zwischen -1 (entgegengesetzt) und +1 (identisch). Wird häufig bei Text- und Bild-Embeddings verwendet.

4. Physik: Arbeit

Arbeit einer Kraft \(\vec{F}\) über eine Strecke \(\vec{s}\):

Beispiel: 50 N Kraft unter 30° zur Bewegungsrichtung, 10 m Weg:

Rechnenbeispiel

Gegeben:

Skalarprodukt:

Beträge:

Winkel:

Die Vektoren schließen einen Winkel von etwa 27° ein.

Code-Beispiele

Python mit NumPy

import numpy as np

# Vektoren definieren
a = np.array([1, 2, 2])
b = np.array([2, 1, 2])

# Skalarprodukt
dot_product = np.dot(a, b)
print(f"Skalarprodukt: {dot_product}")  # 8

# Winkel berechnen
cos_theta = dot_product / (np.linalg.norm(a) * np.linalg.norm(b))
theta_rad = np.arccos(cos_theta)
theta_deg = np.degrees(theta_rad)
print(f"Winkel: {theta_deg:.1f}°")  # 27.3°

# Orthogonalität prüfen
c = np.array([1, -2, 0])
d = np.array([2, 1, 0])
is_orthogonal = np.isclose(np.dot(c, d), 0)
print(f"Orthogonal: {is_orthogonal}")  # True

Java

public class DotProduct {
    public static double dot(double[] a, double[] b) {
        double sum = 0;
        for (int i = 0; i < a.length; i++) {
            sum += a[i] * b[i];
        }
        return sum;
    }

    public static double norm(double[] v) {
        return Math.sqrt(dot(v, v));
    }

    public static double angleDegrees(double[] a, double[] b) {
        double cosTheta = dot(a, b) / (norm(a) * norm(b));
        return Math.toDegrees(Math.acos(cosTheta));
    }

    public static void main(String[] args) {
        double[] a = {1, 2, 2};
        double[] b = {2, 1, 2};

        System.out.println("Skalarprodukt: " + dot(a, b));  // 8.0
        System.out.println("Winkel: " + angleDegrees(a, b) + "°");  // 27.3°
    }
}

Zusammenfassung

Das Skalarprodukt ist ein grundlegendes Werkzeug, weil es:

1. Winkel zwischen Vektoren misst
2. Orthogonalität prüft (\(\vec{a} \cdot \vec{b} = 0\))
3. Ähnlichkeit quantifiziert (Cosine-Similarity)
4. Projektionen berechnet
5. In Physik (Arbeit, Energie) und ML (Neuronale Netze) zentral ist

Merkregeln

• \(\vec{a} \cdot \vec{b} > 0\): Ähnliche Richtungen
• \(\vec{a} \cdot \vec{b} = 0\): Orthogonal
• \(\vec{a} \cdot \vec{b} < 0\): Entgegengesetzte Richtungen

Weiterführende Themen

• Kreuzprodukt (cross product) für 3D-Vektoren
• Matrix-Vektor-Multiplikation als Sammlung von Skalarprodukten
• Innere Produkträume in der funktionalen Analysis
• Attention-Mechanismen in Transformern (GPT, BERT)

Quellen

• 3Blue1Brown: Dot products and duality
• Khan Academy: Dot Product
• Gilbert Strang: “Introduction to Linear Algebra”