Сооружение каменной крепости было начато в 1224 году на месте городища древних эстонцев. Свой законченный облик и размер крепость обрела в начале 16 века, став одной из самых выдающихся на территории Эстонии и Латвии.
Парк находится в первобытной ложбине и получил свое имя от развалин бывшего орденского замка. Тогда как в 19 веке на другой стороне процветал город, появилась необходимость в месте для отдыха.