Das sogenannte »Heidenloch« war wahrscheinlich eine frühere Kultstätte der Kelten, die einst auf dem Heiligenberg lebten. Die Entstehung des Schachts wird deshalb von der historischen Forschung im 6. Jahrhundert v. Chr. vermutet.

Später nutzten die Römer, die hier oben ein Heiligtum hatten, und im Mittelalter die Bewohner des Stephansklosters den Schacht vermutlich als Zisterne.

Lange Zeit war das »Heidenloch« unzugänglich und teilweise verschüttet. Ende der 80er Jahre entfernte man die zuletzt vorhandene Abdeckung aus Baumstämmen und legte den Schacht vollständig frei. Er bekam eine Überdachung sowie eine elektrische Ausleuchtung, um den Besuchern des Heiligenbergs auch diese Attraktion näher zu bringen.

Über den Sinn und Zweck des Heidenlochs wurde in der Vergangenheit viel spekuliert. Zahlreiche Sagen und Legenden entstanden um das Heidenloch, zum Beispiel sprach man von einem Geheimgang, der unter dem Neckar hindurch bis zum Schloss führte (oder auch zu anderen Orten südlich des Neckars).

Im 19. Jahrhundert berichtete der französische Dichter Victor Hugo von einem Spaziergang bei Mondschein auf dem Heiligenberg. In der Nähe des Heidenlochs habe er plötzlich eine geisterhafte Stimme vernommen.

Außerdem sollen im Sommer 1907 mysteriöse Wesen aus dem Schacht hervorgekrochen sein, was zu Angst und Schrecken im damaligen Heidelberg führte. Als es zu ersten Todesopfern kam, wurde vom Heidelberger Oberbürgermeister und vom Innenminister des Großherzogtums Baden eine Untersuchungskommission einberufen. Die damalige Geheimakte wurde im Jahr 2000 in dem fantastisch-mythologischen Roman »Heidenloch« veröffentlicht. Martin Schemm hatte sich diesen spannenden Fall ausgedacht und das Stadtarchiv Heidelberg machte aus der wohl raffiniertesten Auseinandersetzung mit dem Mysterium »Heidenloch« eine lesenswerte Sonderveröffentlichung.