Zgodnie z tradycją, gmina żydowska na miejsce pochówku wybrała jedno z lubelskich wzgórz. Dziś więcej na nim drzew, niż macew, gdyż wojny nie oszczędzały tego miejsca. Podczas II wojny światowej okupujący Lublin naziści chcieli wymazać wszystkie ślady Żydów i metodycznie niszczyli ich groby tak na leżącym nieopodal nowym cmentarzu, jak i tutaj. Ocalało tylko kilkadziesiąt macew, z których najstarsza pochodzi z 1541 roku. Odwiedzając stary cmentarz żydowski napotkać można pielgrzymów, którzy do dziś nawiedzają grób słynnego Jakuba Icchaka Horowitza – Widzącego z Lublina.