Hřbitov byl založen roku 1902 ve vyhrazené sekci komunálního hřbitova. Po druhé světové válce začal chátrat. Roku 2007 ho Židovská obec v Ostravě nechala obnovit. V té době se zde z původních několika stovek nacházelo už jen 32 náhrobků. Hřbitov byl následně několikrát poškozen útoky vandalů, pokaždé byl opraven.
