Bereits ab dem 13. Jahrhundert wird der Name "Weinberg" in Verbindung mit dem Weinanbau an dieser Stelle erwähnt. In die Kalksteinfelsen wurden ab 1825 Stollen getrieben, die eine Gesamtlänge von 2,6 km haben. Zunächst diente die Anlage den Kasseler Brauern zur Eiseinlagerung für das in den Wintermonaten in der Fulda geschlagene Eis. Das eingelagerte Eis wurde dann in den Sommermonaten zur Kühlung des Bieres verwendet. Später wurde die Stollenanlage auch zur Einlagerung von Wein genutzt. 1942 wurden die Bierkeller zu einem Luftschutzbunker umgebaut. Bis zu 10.000 Menschen fanden hier im 2. Weltkrieg Schutz und Zuflucht.
In den Stollen herrscht zu jeder Jahreszeit eine Temperatur um 12°. Die Luftfeuchtigkeit liegt bei fast 100 Prozent. Zehn Eingänge und neun Stollen bilden die Basis für das Labyrinth aus Gängen. Dank des Feuerwehrvereins Kassel e. V., der sich mit der Geschichte und der Thematik der Schutzräume befasst hat, ist es möglich die Stollenanlage Weinberg zu besichtigen.