Na mocy aktu z dnia 7 listopada 1919 r. i kolejnego, podpisanego 8 czerwca 1920 r. Magistrat miasta Kalisza nabył od rodzeństwa Lichtenbaumów i kilku innych właścicieli 10 morgów 153 prętów ziemi z majątku Dobrzec-Mały oraz 1 morgę 169 prętów z z części majątku Dobrzec-Mały lit. E. Razem miasto zakupiło 12 morgów i 22 pręty ziemi. Z tej ogólnej przestrzeni Magistrat w 1920 r. sprzedał Żydowskiej Gminie Wyznaniowej w Kaliszu 5 morgów ziemi z przeznaczeniem na tzw. Nowy Cmentarz dla Starozakonnych.

27 lipca 1920 r. Zarząd Żydowskiej Gminy Wyznaniowej w Kaliszu w osobie Leona Dancygiera uiścił do kasy magistrackiej kwotę 40 000 marek jako sumę należną za zakupiony teren. W połowie 1920 r. Zarząd Gminy Żydowskiej wystąpił do władz budowlanych Kalisza o wydanie zgody na ogrodzenie nabytego gruntu, znajdującego się pomiędzy ul. Widok a Wąską. Miasto zgodę wydało 20 września 1920 r., a w kwietniu roku następnego przystąpiono do ogrodzenia terenu nowego cmentarza. W tym samym roku została rozpoczęta budowa stajni i wozowni. Dwa lata później przystąpiono do budowy domku gospodarczego.

Początkowo cmentarz nie cieszył się zbyt wielkim uznaniem kaliskich Żydów. Rodziny wolały nadal chować swych zmarłych na terenie starego, historycznego cmentarza, jedynie ubodzy nie mieli wyboru, ponieważ miejsca na nowym cmentarzu były o wiele tańsze. Sytuacja zmieniła się z chwilą śmierci rabina Jechaskiela Lipszyca w dniu 21 marca 1932 roku. Na pogrzeb przybyły olbrzymie tłumy Żydów z Kalisza oraz wielu wybitnych rabinów i osobistości z kraju oraz zagranicy. Rabin Lipszyc w swym testamencie zaznaczył, aby pochować go na terenie nowego cmentarza. Od tej chwili nowa nekropolia stała się uznanym miejscem spoczynku. Do 1939 r. pochowano tu przeszło 3 tys. osób.

Otoczony parkanem cmentarz, zaopatrzony w niezbędne budynki gospodarcze, w myśl religii mojżeszowej powinien posiadać Taharę (dom przedpogrzebowy, czyli pomieszczenie, gdzie dokonywano obrzędu tahary – obmycia zmarłego). Do budowy domu przedpogrzebowego kaliska gmina przystąpiła w 1926 roku. Zaplanowano okazały obiekt, którego wybudowanie wiązało się z wielkimi nakładami finansowymi. Coraz trudniejsza sytuacja gminy i całej wspólnoty spowodowała, że do wybuchu II wojny światowej budynek nie został ukończony; nie wybudowano planowanego piętra, a dach nie został nakryty kopułą. Okupacyjne władze niemieckie częściowo zamknęły budowę, oczywiście tylko na poziomie niezbędnego zabezpieczenia obiektu. Cmentarz przetrwał czas Zagłady w stosunkowo dobrym stanie.

Po wojnie nieliczni ocalali Żydzi powrócili do swego miasta, ale mało kto decydował się na pozostanie w Kaliszu. Gmina żydowska wznowiła funkcjonowanie, jednak zbyt małe środki finansowe, jakimi dysponowała, nie pozwalały na pełne utrzymanie cmentarza. W latach pięćdziesiątych powstało kilka symbolicznych grobów (w większości pochodzących z warsztatu Szaje Kawe). Rodziny ocalałych pragnęły w ten sposób upamiętnić swych bliskich zamordowanych przez Niemców. 10 marca 1962 r. na terenie cmentarza pochowano pułkownika Wojska Polskiego, dowódcę Batalionów Chłopskich Henryka Zielińskiego (Solnika). W 1966 r. odświeżono i uporządkowano około 60 nagrobków, a 20 wybetonowano. W latach 1945–1962 na terenie cmentarza pochowano 10 osób. W 1964 r. powstał pomnik ku czci zamordowanych kaliskich Żydów (południowa część cmentarza). Na teren nekropolii zostały przewiezione także prochy ekshumowane w 1967 r. z cmentarza żydowskiego w Błaszkach. Nad grobem wzniesiono pomnik, a obok ułożono ocalałe macewy z Błaszek. W czasach PRL cmentarz był dewastowany, zniknęło wiele nagrobków. W drugiej połowie lat osiemdziesiątych XX w. został ogrodzony.

Pod koniec lat osiemdziesiątych XX w. urodzeni w Kaliszu Żydzi oraz lokalni społecznicy zaangażowali się w porządkowanie i konserwację nekropolii. Dzięki wsparciu przedsiębiorcy Zenona Sroczyńskiego wyremontowano dom przedpogrzebowy. Obecnie pełni on funkcję Domu Pamięci i Spotkań – zgromadzono w nim pamiątki po żydowskich mieszkańcach Kalisza.

W październiku 1988 r. sekretarz ziomkostwa kaliszan w Izraelu powiadomił Fundację o macewach w Kanale Rypinkowskim.  Z uwagi na zimową porę nie można było przystąpić do prac. Fundacja uczyniła to w maju 1989 r., wydobywając z Kanału ok. 2000 macew. Złożono je wówczas tymczasowo na cmentarzu przy ul. Podmiejskiej. Fundacja interweniowała też w sprawie rozkradania płyt nagrobnych z Nowego Cmentarza. Po ich zbadaniu okazało się, że pochodzą ze Starego Cmentarza (ul. Nowy Świat). Zostały tam przeniesione na początku 1990 roku. Przez cały czas Fundacja prowadziła też własne prace i koordynowała wszystkie prace renowacyjne na Nowym Cmentarzu.

Na początku 2013 r. Towarzystwo Opieki nad Zabytkami w ramach programu „Patriotyzm Jutra” otrzymało od Muzeum Historii Polski 15 tys. złotych na inwentaryzację nagrobków ze starego i nowego cmentarza żydowskiego w Kaliszu. Zapowiedziano, że wszystkie macewy zostaną zinwentaryzowane, a napisy na nagrobkach przetłumaczone na polski. Dane personalne zmarłych będzie można odszukać na specjalnie utworzonej stronie internetowej, na której znajdą się także archiwalne zdjęcia i artykuły poświęcone historii kaliskich Żydów.