Niektórzy badacze wysuwają hipotezę o obecności Żydów w Babimoście już w średniowieczu. Nie zachowały się jednak żadne przekazy historyczne potwierdzające tę teorię. Przemawiać za nią miał fakt, że miasto było siedzibą starosty, ci zaś popierali osadnictwo żydowskie, mając z tego wymierne dochody. Następnie gmina żydowska miała przestała istnieć w wyniku zniszczenia miasta w czasie potopu szwedzkiego (1655–1660). Być może Żydzi opuścili Babimost na skutek agresji wojsk Stanisława Czarnieckiego, które oskarżały starozakonnych o współpracę ze Szwedami.

Pierwsze wiadomości o Żydach w Babimoście pochodzą z 1685 r. Dnia 21 września 1746 r. otrzymali oni przywilej określający ich pozycję w mieście. Synagoga istniała już od około 1700 r. Najprawdopodobniej w tym samym czasie założono cmentarz, zlokalizowany na północ od ówczesnego miasta. Przypuszczalnie również w północnej części miasta koncentrowało się życie żydowskie. W 1793 r., kiedy Prusy zajęły Babimost żyło w mieście 150 Żydów, a w 1799 r. było 205 Żydów na 1 412 mieszkańców miasta.

Pod panowaniem pruskim Żydzi zyskali nowe możliwości działania, m. in. w sferze gospodarczej. W Tajnym Pruskim Archiwum Państwowym w Berlinie zachowała się ciekawa korespondencja, jaką Żyd z Sulechowa Marcus Moses prowadził z urzędnikami pruskimi w sprawie założenia w Babimoście fabryki wyrobów skórzanych. Zachowana korespondencja obejmuje okres od 14.09.1798 r. do 20.02.1799 r[1.1]. W liście z 24.12.1798 r. skierowanym do króla, Marcus Moses przekonywał władze, że fabryka w Babimoście może przynieść tylko korzyści, a jej powstanie nie zaszkodzi miejscowym rzemieślnikom, a nawet im pomoże. Nie mniej jednak powstanie fabryki Moses warunkował następującymi kwestiami: oczekiwał zgody na zajęcie tych domów w mieście i okolicy, które będą się nadawać do uruchomienia produkcji. Następnie, ze względu na koszty związane z otwarciem fabryki, prosił o dotację w wysokości 3 tys. talarów i zwolnienie na 10 lat z wszelkich opłat i podatków miejskich oraz państwowych. Na koniec prosił o całkowite zwolnienie z podatków, jakie gmina w Babimoście miała do zapłacenia królowi, a także o zwolnienie dla siebie z podatków na rzecz miejscowej gminy żydowskiej[1.2].

Podanie Mosesa spotkało się z przychylnym przyjęciem ze strony poznańskich urzędników, którzy w piśmie do Berlina rekomendowali królowi jego pomysł, sugerując przyznanie dotacji i ulg, o które prosił[1.3]. Inaczej oceniono sytuację w Berlinie. Urzędnik wyznaczony przez króla do zaopiniowania sprawy nie miał nic przeciwko fabryce, pod warunkiem, że Moses sfinansuje jej budowę sam. W uzasadnieniu odrzucone są wszystkie „żądania” Mosesa w sprawie wsparcia projektu[1.4]. Ostatecznie, z braku źródeł nie wiadomo, czy planowana fabryka powstała w mieście.

Do lat 40. XIX w. liczba Żydów w Babimoście systematycznie wzrastała. Apogeum przypadło na 1839 r., w którym gmina liczyła 437 członków, co stanowiło około 20% ogółu mieszkańców. Od 1840 r., kiedy stolica powiatu została przeniesiona do pobliskiego Wolsztyna, liczba ludności żydowskiej systematycznie spadała. W 1857 r. w Babimoście było jeszcze 300 Żydów, ale w 1871 r. już tylko 160. Na początku XX w. (1905) było 39 Żydów, co stanowiło 2% populacji miasta.

Gminą żydowską w Babimoście kierowało wielu znamienitych rabinów. Urzędowali tu między innymi Isaak Levy, Jehuda Leibusch i Joseph Laboschinsky. Z Babimostu pochodził znany rabin dr Paul Buchholz, autor wielu prac o charakterze religijnym. Do najbardziej znanych należy wydana we Wrocławiu w 1867 r. rozprawa O rodzinie w kontekście prawnym i moralnym według nauk mojżeszowo-talmudycznych.

Babimojscy Żydzi zamieszkiwali w różnych częściach miasta, między innymi w obrębie rynku, choć najwięcej ich było przy ul. Kargowskiej, w bezpośrednim sąsiedztwie synagogi. Wybudowana w 1799 r. nowa synagoga wtopiona była w otaczające ją małe budynki zamieszkiwane przez biedotę żydowską.

Po I wojnie światowej gmina żydowska w Babimoście przestała praktycznie istnieć. W 1925 r. w Babimoście mieszkało już tylko 12 Żydów, dlatego też ostatni przewodniczący Alex Neumann zdecydował się sprzedać budynek synagogi babimojskim ewangelikom. Do umowy wpisano warunek, że kupowany budynek może służyć tylko do celów religijnych i nie wolno go odsprzedawać dalej. Dzięki tej transakcji budynek dawnej synagogi nie został zniszczony w czasie Nocy Kryształowej (9/10.11.1938) i przetrwał do dziś. Obecnie mieści się w nim firma handlująca armaturą sanitarną (dziś Pl. Powstańców Wlkp. 11). Pieniądze ze sprzedaży synagogi upadająca gmina przeznaczyła na utrzymanie cmentarza.  

W 1936 r. mieszkało w Babimoście 5 Żydów. Ostatnim był wspomniany Alex Neumann, posiadający kamienicę i sklep z konfekcją przy ówczesnej ul. Brójeckiej 15, dziś ul. Piłsudskiego. W wyniku szykan ze strony nazistów i permanentnego bojkotu sklepu Neumann został zmuszony w czerwcu 1939 r. do sprzedaży nieruchomości i wyjazdu z miasta. W ten sposób ostatecznie przestała istnieć społeczność żydowska w Babimoście, co 16.06.1939 r. triumfalnie ogłosiła gazeta sulechowska (Züllichauer Nachrichten) donosząc, że ostatnia żydowska nieruchomość w Babimoście przeszła wreszcie w ręce aryjskie[1.5].