Hřbitov byl založen snad již ve 14. století a je tak patrně nejstarším souvisle využívaným židovským pohřebištěm na Moravě. Vstup na hřbitov je novodobou kovanou bránou, márnice byla zbořena v letech 1955–1956. Nachází se zde asi 400 náhrobků, nejstarší čitelný pochází z roku 1676. Hřbitov byl poškozen nacisty, kteří náhrobky použili k vydláždění ulic ve městě. V letech 1991–1994 byl hřbitov opraven.