Der Ortsname Greußen leitet sich vom althochdeutschen Wort grioz (= Sand-, Kiesfläche) ab und hat fränkische Wurzeln. Die urkundliche Überlieferung setzte erst im Spätmittelalter ein. Die Stadt besteht aus drei in sich geschlossenen Einheiten mit eigenen Befestigungsanlagen: Ältester Teil im Süden ist die Altstadt, eine dörfliche Angersiedlung an der Straße von Weißensee nach Sondershausen. Ab dem 11. Jahrhundert erfolgte der Ausbau der Mittelstadt nördlich davon als Marktsiedlung entlang der Nord-Süd-Achse. Nördlich der Mittelstadt und jenseits des wasserführenden Steingrabens entstand ab dem 14. Jahrhundert dann die sogenannte Neustadt.