Graph-Neuronale-Netze

Kurz: Graph-Neuronale-Netze (GNN) verarbeiten Daten, die aus Knoten und Verbindungen bestehen: soziale Netze, Moleküle, Straßen, Wissensgraphen. Jeder Knoten sammelt Information von seinen Nachbarn.

Genauer: Bilder haben ein Gitter, Texte eine Reihe, aber viele Daten sind Netze ohne feste Form. GNNs arbeiten darauf, ohne dass die Reihenfolge der Nachbarn eine Rolle spielt.

Im Detail

• Nachrichtenweitergabe: In jeder Schicht schickt jeder Knoten seinen Vektor an Nachbarn, jeder Knoten fasst die erhaltenen zusammen (Summe, Mittelwert, Maximum) und berechnet einen neuen Vektor.
• Reichweite: Nach k Schichten kennt ein Knoten seine k-Hop-Umgebung.
• Aufgaben: Knoten-Klassifikation (Betrüger?), Kanten-Vorhersage (Freundschaft, Empfehlung), Graph-Klassifikation (Molekül giftig?).
• Varianten: GCN, GraphSAGE, GAT (mit Attention).
• Anwendungen: Medikamentenforschung, Verkehrsprognose (Google Maps), Empfehlungen, Betrugserkennung.
• Verwandt: Transformer sind im Kern GNNs auf einem vollständigen Graphen, bei dem jedes Token jedes sieht.
• Grenzen: Zu viele Schichten glätten alle Knoten ununterscheidbar („Over-Smoothing“).

Siehe auch: Self-Attention im Detail, Empfehlungssysteme