Cmentarz żydowski w Mikołajkach został założony w drugiej połowie XIX w., poza zwartą strefą zabudowy, nieopodal części miasteczka zwanej Końcem, przy dzisiejszej ul. Dybowskiej. Najstarszy zachowany nagrobek wystawiono Sarze Mormenstein zmarłej w 1881 roku.  Nekropolię obsadzono ponad dwudziestoma lipami, które dziś stanowią malowniczy starodrzew. Cmentarz został najprawdopodobniej częściowo zdewastowany przed i po 1945 r., niemniej należy go zaliczyć do najlepiej zachowanych na Mazurach.

Powierzchnia nekropolii to ok. 0,06 ha. Do chwili obecnej przetrwały 23 całkowicie zachowane macewy, 12 zachowanych częściowo oraz 9 tumb. W większości są to nagrobki wykonane z piaskowca, pojedyncze z granitu i lastriko. Na kilku zachowały się tradycyjne symbole religijne i społeczne, np. dłoni w geście błogosławieństwa. Wiele nagrobków posiada inskrypcje zarówno po hebrajsku, jak i po niemiecku. Na niektórych widoczne są ślady farb, np. żółtej w częściach macew z symbolami czy ciemnoniebieskiej w miejscach napisów.

Nekropolia została wpisana do rejestru zabytków 22.11.1991 r. pod nr A-882/S.

W 2006 r. cmentarz został uporządkowany przez mieszkańców miasteczka i Fundację Ochrony Dziedzictwa Żydowskiego.