Landschaftlich schön gelegen, ist der Schäferstein etwa 2 km nordwestlich des Ortes Wasserthaleben zu finden. Kaum 50 m unterhalb des Denkmals mündet der Bengebach in die Helbe, die sich hier durch ein wildromantisches Tal schlängelt. Der Schäferstein selbst befindet sich in weglosem Wiesengelände, im Schnittpunkt der Gemarkungsgrenzen Großenehrich, Otterstedt und Wasserthaleben. Einer Überlieferung zufolge soll an dieser Stelle ein Schäfer einen anderen mit dem Knotenstock erschlagen haben. Eine andere Version berichtet von zwei Hirten, die sich im Streit um eine Weidefläche gegenseitig umbrachten. Grenzkonflikte sind auch schriftlich bezeugt, so für den Osterdienstag des Jahres 1691 zwischen Großenehrichern, Thüringhäusern und Wasserthalebern: Demnach soll es am Schäfer- oder "Streitstein" nicht nur wüste Schlägereien, sondern auch gegenseitige Steinbombardements und sogar einen Schusswechsel gegeben haben -– die Gemarkung rings um den Schäferstein trägt bis heute den Namen "Streitfleck". Es kann als sicher angesehen werden, dass das Denkmal im Zusammenhang mit Grenzvorfällen errichtet worden ist, ohne dass ein konkreter Anlass zum Jahr 1604 schriftlich überliefert ist.