Word2Vec ve gömmelerin tarihi
Kısaca: Word2Vec (2013), sözcüklerin anlamın bir yön olduğu vektörler olarak gösterilebileceğini ortaya koydu: kral − erkek + kadın ≈ kraliçe. Modern gömmeler bu fikirden türemiştir.
Biraz daha ayrıntılı: Model, sözcüklerin metindeki komşuluğundan öğrenir: benzer çevrelerde görünen sözcükler benzer vektörler alır (“bir sözcüğü arkadaşlarından tanırsınız”).
Ayrıntılı
- Word2Vec: iki çeşit: skip-gram (tahmin et…
Ayrıca bak: Gömme (vektör gösterimi), Belirteçleme: BPE ve sözlük