Kurz erklärt
Ein Nameserver ist ein DNS-Server, der für eine Domain die verbindlichen Einträge hält und Anfragen dazu beantwortet.
Genauer
Beim Registrar (dem Anbieter, bei dem die Domain registriert ist) trägt man ein, welche Nameserver für die Domain zuständig sind (NS-Einträge). Alle weiteren Einträge (A, MX, TXT) liegen dann in der DNS-Zone auf diesen Servern.