È il terzo cimitero ebraico più vecchio di Praga. Il più antico cimitero di Praga si trovava probabilmente nell’odierna via Míšeňská (alcuni autori affermano che si trovava nell’area di Újezd). Il secondo cimitero ebraico (chiamato il Giardino Ebraico) era di origine medievale e si trovava sul territorio della futura Città Nuova, sulla strada per Vyšehrad.
Questo cimitero venne utilizzato dal XIII secolo fino al 1478, quando Vladislav II, su pressione degli abitanti della Città Nuova, lo fece abolire. Nel 1866, durante la costruzione dell’edificio del Circolo dei Borghesi in via Vladislavova, sono stati trovati i frammenti delle lapidi risalenti alla seconda metà del XIV secolo, che sono stati poi portati al Vecchio cimitero ebraico.
Questo cimitero fu fondato probabilmente a cavallo del XIV e XV secolo. Tra le tombe che si sono conservate, quella più antica risale al 1439. Il cimitero venne ampliato alcune volte con l’aggiunta dei terreni circostanti. Non viene più utilizzato dal 1787, quando un decreto di Giuseppe II proibì l’uso dei cimiteri all’interno dei centri abitati.
Il cimitero ebraico principale fu poi trasferito all’ex cimitero della peste di Žižkov. Nel 1903, durante il risanamento di Josefov, il quartiere ebraico fu costretto a cedere una parte del cimitero per costruire una nuova strada (l’odierna via 17 novembre). I resti esumati vennero deposti in un’altra parte del cimitero, nella collina Nefel, che si trova davanti alla sinagoga Klaus, dove sin dall’inizio del XVIII secolo venivano sepolti i bambini entro 1 mese di età.
Durante il risanamento, la confraternita funebre fece costruire una nuova sala delle cerimonie in stile neoromanico (progetto dell’arch. J.Gerstl), che venne utilizzata per questi scopi solo sino all’inizio degli anni venti.
Il Vecchio cimitero ebraico contiene circa 12000 lapidi, anche se le tombe sono molte di più.
Alcune lapidi sono sprofondate negli strati inferiori e molte altre, soprattutto quelle in legno, sono andate distrutte con il tempo. Visto che le usanze religiose vietavano agli Ebrei di violare le vecchie tombe ed il terreno non riusciva più a soddisfare le richieste, nel cimitero vennero portati altri strati di terreno e le pietre tombali più vecchie vennero estratte e ricollocate negli strati più alti, così, con il tempo, si sono formati fino a 12 strati sovrapposti e su molti posti si è creato un ammassamento di lapidi in pietra risalenti a varie epoche. Il cimitero è stato gestito per secoli dalla Confraternita Funebre Praghese, che cominciò a registrare sistematicamente le scritte delle lapidi.
A cavallo del XVI e XVII secolo, sulle lapidi cominciarono ad apparire i simboli in rilievo e gli stemmi delle famiglie, i nomi, i ceti sociali e le professioni. Nell’epoca barocca cominciò a comparire una sorta di tomba a quattro pareti (casetta). Praga è l’unico luogo d’Europa in cui se ne sono conservate così tante. Uno dei sarcofaghi barocco-rinascimentali copre la tomba del più famoso filosofo del ghetto praghese, nonché rettore della scuola talmudica: il rabbino Jehuda Löw. Qui troviamo anche la tomba rinascimentale del mecenate del ghetto praghese e primate del Quartiere Ebraico Praghese: Mordechai Maisel. Su molte lapidi ci sono i simboli delle tradizioni ebraiche, come il grappolo d’uva (simbolo della fertilità e della saggezza), la cassetta dell’elemosina (simbolo della beneficenza) o la stella di Davide. L’origine e la famiglia dell’estinto vengono indicati con i simboli delle mani benedicenti (i successori dei sacerdoti delle sinagoghe), di una brocca con bacile o di uno strumento musicale (i successori degli aiutanti della stirpe dei leviti), di animali per indicare un nome proprio od un cognome (leone, lupo, oca, gallo, ecc.), e di strumenti come simbolo delle professioni (mortaio – farmacista, forbici – sarto, violino – musicista, ecc.). Oltre ai dati principali, i testi contengono anche vari encomi e altri dati interessanti sull’estinto. La data di morte o di sepoltura viene a volte espressa nel cosiddetto cronostico (la lingua ebraica esprime i numeri con l’uso delle lettere, a seconda della loro posizione nell’alfabeto), secondo il calendario ebraico, che è di 3760 anni più vecchio del calendario civile.
Nel cimitero crescono aceri, frassini, acacie e cespugli di sambuco.
Dal 1995, il Vecchio cimitero ebraico è un monumento culturale nazionale.