Wie KI Texte versteht: NLP-Aufgaben

Kurz: Natural Language Processing (NLP) umfasst alles, was Maschinen mit Sprache tun: übersetzen, zusammenfassen, Fragen beantworten, Stimmung erkennen, Namen finden, Text erzeugen. Große Sprachmodelle lösen die meisten dieser Aufgaben mit einem einzigen Modell.

Genauer: Früher gab es für jede Aufgabe ein eigenes Modell. Heute genügt ein Prompt.

Im Detail

• Klassifikation: Spam, Stimmung, Thema.
• Sequenzmarkierung: Eigennamen (NER), Wortarten.
• Übersetzung: Früher regelbasiert, dann statistisch, seit 2016 neuronal, heute mit Sprachmodellen.
• Zusammenfassung: Extraktiv (Sätze auswählen) oder abstrakt (neu formulieren).
• Frage-Antwort: Mit rag-(retrieval-augmented-generation) auf eigene Dokumente.
• Informationsextraktion: Aus Rechnungen Beträge und Daten holen, JSON ausgeben.
• Dialog: Chat-Assistenten.
• Messung: BLEU und ROUGE (Textüberlappung, veraltet), Benchmarks und menschliche Bewertung, siehe benchmarks-für-sprachmodelle.
• Schwierige Fälle: Ironie, Mehrdeutigkeit, Dialekt, Fachsprache, wenig vertretene Sprachen.
• Klassische Methoden: Wortzählung (TF-IDF), n-Gramme, Regeln. Sie sind schnell, günstig und für einfache Aufgaben oft ausreichend.

Siehe auch: Wie ein Sprachmodell Text erzeugt: Schritt für Schritt, Tokenisierung: BPE und Vokabular