Federated Learning und Differential Privacy

Kurz: Federated Learning trainiert ein Modell auf vielen Geräten, ohne dass die Rohdaten das Gerät verlassen. Differential Privacy fügt Rauschen hinzu, damit sich einzelne Personen nicht aus dem Modell zurückrechnen lassen.

Genauer: Beispiel: Die Handy-Tastatur lernt Wortvorschläge aus Tipp-Verhalten, ohne dass Texte zum Hersteller wandern.

Im Detail

• Ablauf: Server schickt das Modell → Geräte trainieren lokal → senden nur Gewichtsänderungen → Server mittelt (Federated Averaging).
• Probleme: Unterschiedliche Daten je Gerät, langsame Verbindungen, Gewichtsänderungen können dennoch Information verraten.
• Differential Privacy: Jede Änderung wird beschnitten und mit Rauschen versehen. Eine mathematische Garantie (ε), dass ein einzelner Datensatz kaum Einfluss hat.
• Sichere Aggregation: Verschlüsselte Summen, sodass der Server nur den Durchschnitt sieht.
• Edge AI: Modelle laufen direkt auf Handy oder Sensor, ohne Cloud: kleiner, schneller, privater.
• Alternative: Daten anonymisieren (schwer: Re-Identifikation) oder synthetische Daten nutzen.
• Einsatz: Tastaturen, Gesundheitsdaten zwischen Krankenhäusern, Verkehrsdaten.

Siehe auch: Trainingsdaten, Urheberrecht und Datenschutz bei KI, Modell-Verkleinerung: Destillation und Pruning