Die Kapelle in Oberherschbach wurde in zwei Zeitperioden erbaut, der Chor im 12./23 Jahrhundert, das Schiff etwa 200 Jahre später. Über die Entstehung der Kapelle und der Eremitage berichtet folgende historische Erzählung:
Vor vielen Jahren, als die Kapelle noch nicht stand, betete an dieser Stelle ein frommer Einsiedler. Weil er zugleich auch ein weit erfahrener Mann war, kamen viele Leute aus nah und fern, um seinen Rat für ihre Lebenswege zu hören und sich seinem Gebet zu empfehlen. Als der Einsiedler schon ein betagter Greis war, sandte ihm Gott auf wunderbare Weise einen jüngeren Gehilfen. Das ging so zu:
Eines Abends, als der Eremit beim einsamen Lichtlein in seiner Eremitage so recht andächtig vor dem Bilde des Gekreuzigten betete, erhob sich ein furchtsames Unwetter, das mit solchem Ungestüm tobte, daß die Bäume des Waldes nicht nur ihre Kronen tief zur Erde neigten, sondern auch Äste splitterten und gar Baumriesen krachend zu Boden stürzten.
Ein junger Grafensohn, der abenteuernd durch den Wald wanderte, schwebte jeden Augenblick in Gefahr, von den fallenden Bäumen erschlagen zu werden. Obwohl der Jüngling noch nie in Gefahren gebetet, befiel ihm beim Anblick dieser furchtbaren und wütenden Naturgewalt Todesangst. Er dachte an seine letzten Dinge und betete reumütig zu Gott um Hilfe. Und siehe, auf einmal erblickte er in der Ferne ein Licht. Es war das Licht des Gekreuzigten in der Eremitage. Er trat in dieselbe und wie wunderbar, anstatt des Wetters Toben umfing ihn die Andacht und die himmlische Ruhe. Der ehrwürdige Greis erhob sich und hieß den vom Unwetter Entronnenen freundlich willkommen. In diesem aber stieg ein fester Entschluss auf.
Er war in die Welt gezogen um sein Glück zu suchen. Er wollte hierbleiben, in der Eremitage, um den Weg zum Heil zu finden. Sein Wunsch wurde erfüllt. Der greise Eremit ward sein Lehrer und zum Dank für seine Rettung erbaute der junge Graf das Kirchlein, (den heutigen Chor). Als der Alte zur Ruhe ging, seine müden Augen für immer schloss, wurde der Jüngling sein Nachfolger. Er bewohnte weiter allein die Klause, bis Gott auch ihm zuerst auch einen Schüler und dann die ewige Ruhe gab.