Deepfakes und KI-Erkennung

Kurz: Deepfakes sind täuschend echte, von KI erzeugte oder veränderte Bilder, Videos und Stimmen. Sie zu erkennen ist schwer. Hilfe bieten Quellenprüfung, Herkunftsnachweise und Wasserzeichen.

Genauer: Erkennungs-Programme für KI-Text sind unzuverlässig (viele Fehlalarme, besonders bei Nicht-Muttersprachlern). Für Bilder gibt es Hinweise, aber keine Garantie.

Im Detail

• Hinweise bei Bildern: Hände und Zähne, Text im Bild, Spiegelungen, unnatürliche Haut, widersprüchliche Schatten.
• Videos: Lippen nicht synchron, flackernde Ränder, starre Augen.
• Stimmen: Atmung fehlt, Betonung wirkt flach. Betrug mit geklonten Stimmen („Enkeltrick 2.0“): Rückruf auf bekannter Nummer, Codewort in der Familie.
• Wasserzeichen: Verborgene Muster in KI-Bildern (SynthID u. a.). Nur erkennbar, wenn der Anbieter mitmacht, durch Bearbeiten entfernbar.
• C2PA (Content Credentials): Standard für Herkunftsangaben in Dateien, zeigt Kamera, Bearbeitung und KI-Einsatz.
• Gesetz: Der EU AI Act verlangt Kennzeichnung, siehe EU AI Act und Regeln für KI.
• Praktisch: Quelle prüfen, Rückwärtssuche für Bilder, Faktenchecker, skeptisch bei emotionalen Inhalten.

Siehe auch: GANs: Generator gegen Diskriminator, ki-phishing