Nowy cmentarz żydowski przy ul. Poniatowskiego 14 został założony w 1902 r. z powodu przepełnienia starego cmentarza, położonego przy ul. Na Piasku oraz wzrostu liczebności ludności żydowskiej w mieście. Pierwotnie jego powierzchnia wynosiła 2,5 ha.

Uroczystość poświęcenia cmentarza oraz wybudowanego obok okazałego domu przedpogrzebowego odbyła się 15 listopada 1903 roku. Na otwarciu jako pierwszy przemawiał twórca projektu kompleksu cmentarnego, wiedeński architekt Max Fleischer. Pierwszy pochówek na nowym cmentarzu odbył się w styczniu 1904 roku. Był to pogrzeb Jehudy Loba (zm. 18.01.1904 r.). Do 1942 r. pochowano tutaj 895 osób. 

Podczas II wojny światowej Niemcy zdewastowali część cmentarza, wywożąc liczne nagrobki. W domu przedpogrzebowym urządzono magazyn wojskowy. W 1940 r. część cmentarza odstąpiono sąsiedniemu wielowyznaniowemu Cmentarzowi Lipowemu. W ten sposób powierzchnia cmentarza żydowskiego zmniejszyła się do obecnej i wynosi 1,7 ha. Od czerwca 1942 r. przez cały okres II wojny światowej nie odbył się na nowym cmentarzu żaden pogrzeb.

W lutym 1946 r. pochówki wznowiono. Do dnia dzisiejszego cmentarz pozostaje otwarty dla celów pogrzebowych.

Nekropolia jest otoczona ceglanym murem z dwiema kutymi żeliwnymi bramami. Pomiędzy nimi wznosi się wspaniale odrestaurowany, bardzo efektowny dom przedprzedpogrzebowy, zbudowany wedle projektu Maxa Fleischera w latach 1902–1903. Wykonawcą była firma budowlana Juliusa Scheera z Gliwic. Pierwotnie dom przedpogrzebowy składał się z trzech głównych części: centralnej – reprezentacyjnej sali modlitewnej z wyjściem bezpośrednio na cmentarz, kostnicy oraz mieszkania stróża. Po 1945 r. najpierw czynny, potem opuszczony, w 2003 r. dom przedpogrzebowy został wpisany do rejestru zabytków. W 2007 r. gmina żydowska przekazała go miastu Gliwice. Od 2012 r. przeprowadzono szeroko zakrojoną restaurację, umieszczając wewnątrz oddział Muzeum w Gliwicach pod nazwą Dom Pamięci Żydów Górnośląskich. Obecnie jest to jeden z najbardziej efektownych żydowskich domów przedpogrzebowych w Polsce.

Na terenie cmentarza wydzielono 10 różnej wielkości kwater, na których zachowały się 524 nagrobki. Najstarszy należy do Emanuela Zweiga (zm. 19.05.1904). W zachodniej części znajduje się kwatera z przestrzennymi grobowcami rodzinnymi. Przez środek cmentarza biegnie szeroka aleja główna, obsadzona wysokimi drzewami. To właśnie przy tej centralnej alei znajdują się grobowce najznamienitszych gliwickich rodzin żydowskich. Pochowano tutaj rabina dr. Wilhelma Münza (04.02.1856, Tarnów –  20.01.1917, Gliwice), kantora Markusa Heimanna (zm. 31.05.1929), dr. Karla Hamburgera (zm. 29.08.1921), Maxa Mojżesza Zernika (zm. 14.10.1936) oraz Marię (zm. 1912) i Ferdynanda Zweigów (zm. 1917).

Na końcu głównej alei w lipcu 1930 r. wystawiono pomnik poświęcony 57 żydowskim żołnierzom z Gliwic, którzy polegli podczas I wojny światowej. Znajduje się tu również pomnik na zbiorowej mogile więźniów żydowskich zamordowanych w czasie tzw. marszu śmierci na terenie Gliwic w styczniu 1945 roku. Po II wojnie światowej ówczesne władze miejskie naciskały na gminę żydowską, aby skuć wszystkie niemieckie napisy z nagrobków i pomnika. Pod koniec 1945 r. Naczelna Rada Religijna Żydów Polskich uzyskała w ministerstwie zgodę na pozostawienie niemieckich napisów na cmentarzach, a w lutym 1946 r. zabroniła gminie żydowskiej ich usuwania z nagrobków.

Do początku lat 90. XX w. cmentarz był porośnięty samosiejkami i wysokimi trawami, które utrudniały poruszanie się po jego terenie. Prace porządkowe przeprowadził społecznik Andrzej Główczyk, doprowadzając nekropolię do dobrego stanu. W maju 2008 r. nauczyciel historii Grzegorz Kamiński wraz z uczniami Zespołu Szkół Łączności w Gliwicach przeprowadzili prace porządkowe na terenie cmentarza i wywieźli z niego śmieci. Obecnie nekropolią opiekują się i przeprowadzają na niej prace porządkowe Towarzystwo Pomocy im. św. Brata Alberta w Gliwicach oraz Górnośląskie Centrum Edukacyjne w Gliwicach.

W 2014 r. na zlecenie Muzeum Historii Żydów Polskich POLIN Fundacja Dokumentacji Cmentarzy Żydowskich wykonała spis nagrobków, zawierający dane osobowe zmarłych oraz fotografie macew. Projekt zrealizowano dzięki wsparciu udzielonemu z funduszy norweskich i EOG przez Islandię, Liechtenstein i Norwegię (projekt „Żydowskie Dziedzictwo Kulturowe”, komponent „Sąsiedzi – świadkowie. Przedmioty, ludzie, opowieści”).

Bibliografia

• Walerjański D., Zatarty ślad – historia cmentarzy żydowskich w Gliwicach, [w:] Żydzi gliwiccy, red. B. Kubit, Gliwice 2006.
• Żmudzińska-Nowak M., Dom przedpogrzebowy na nowym cmentarzu żydowskim – gliwickie dzieło Maxa Fleischera na tle innych jego realizacji w Europie Środkowej, [w:] Żydzi gliwiccy, red. B. Kubit, Gliwice 2006.