Zanim w Elblągu powstał cmentarz żydowski, zmarłych grzebano w Powodowie, niedaleko Rychlików. Nekropolię założono w latach 1811–1812 na północ od miasta, przy drodze do Tolkmicka. Później drogę tą zwano Aleją Kasztanową (niem. Allee Kastanien). Z czasem cmentarz został z trzech stron otoczony murowanym ogrodzeniem, a w północno-zachodnim narożniku nekropolii wzniesiono (najprawdopodobniej) niewielki dom pogrzebowy[1.1]. 

Cmentarz został zdewastowany w czasach nazizmu w Niemczech. Ostatnie ocalałe nagrobki zostały w latach 60. i 70. XX w. wykorzystane do utwardzenia placu przed zbudowanym po wschodniej stronie cmentarza budynku firmy „Hydroster”. Odkryto je ponownie podczas prac renowacyjnych w 1990 roku.

Współcześnie na terenie cmentarza znajduje się uporządkowany park z zachowanym starym drzewostanem (przede wszystkim kasztany, klony i lipy). Nie zachował się ślad po żadnym z nagrobków. Od ul. Brzeskiej założono niewielką brukowaną alejkę, na końcu której znajduje się odsłonięty w 2001 r. obelisk – na cementowym prostopadłościanie poziomo umieszczono brązową tablicę z napisami w języku hebrajskim i polskim: „Pamięci Żydów Elbląga. Dawny cmentarz 1812-1945”. Duża ilość połamanych fragmentów macew znajduje się na terenie magazynów Nadleśnictwa Elbląg w podmiejskiej Bażantarni[1.2].