Tomasz Wiśniewski, który sporządził dokumentację cmentarza, odnotował macewy sprzed 1834 roku. Znajdują się one w północnej, najbardziej zadrzewionej części nekropolii. Łącznie doliczył się 259 macew i sarkofagów. Obecnie teren nekropolii wynosi ok. 0,8 ha. Zwiedzając go, warto zwrócić uwagę na skromne epitafia, ze szczątkową ornamentyką: kwiatu, złamanych świec (groby kobiece), złożonych dłoni (groby kapłanów).

Choroszcz otrzymała prawa miejskie w 1507 roku. Od tego momentu miasto stało się ważnym ośrodkiem dóbr należących do litewskiego rodu Chodkiewiczów. Nastąpił intensywny rozwój gospodarczy miasta. Przechodzące przez Choroszcz trakty łączyły się ze znaczniejszymi ośrodkami ówczesnego Podlasia i Litwy.

Najstarsze wzmianki o osadnictwie żydowskim w Choroszczy pochodzą z 1556 roku i związane są z osobą Mojżesza Choroszczańskiego, który spławiał Narwią pszenicę. W pobliskich Oliszkach dzierżawcą młyna w 1560 roku byli Israel i Dawid Izaakowicze. Pinkos (kronika) gminy żydowskiej był prowadzony od 1691 roku. Spisany w dwóch językach: hebrajskim i polskim. Niestety, uległ zniszczeniu wraz ze wszystkimi dokumentami zgromadzonymi w archiwum gminy żydowskiej w Białymstoku.

Żydzi swoje osiedle założyli prawdopodobnie między północno-zachodnią pierzeją rynku i obecną ulicą Branickiego. Tam właśnie znajdowały się dwie drewniane bóżnice, dom kahalny z mieszkaniem rabina oraz łaźnia rytualna, czyli mykwa. Około 150 metrów od rynku został założony pierwszy cmentarz żydowski, który istniał do czasów II wojny światowej. Znajdował się u zbiegu obecnych ulic Adama Mickiewicza i Lipowej /fot. miejsca dawnego cmentarza/.

Wyznawcy religii mojżeszowej korzystali początkowo z patronatu gminy żydowskiej w Tykocinie. W okresie trwającej w Europie wojny 30-letniej nastąpił liczny napływ Żydów na ziemie Rzeczpospolitej. Wśród społeczności miasta liczącej 3600 mieszkańców 10% stanowili właśnie wyznawcy religii mojżeszowej, a trzy wieki później ich liczebność wynosiła już ok. 30%. W rynku miasteczka znajdowało się sześć kramów żydowskich oraz bóżnica. W II połowie XVII wieku, w czasie kolejnej fali konfliktów zbrojnych, wielu Żydów choroszczańskich osiedliło się w pobliskich wsiach: Dzikich, Rogowie, Ruszczanach, Zaczerlanach i innych.

W 1771 roku Choroszcz liczyła 126 posesji, z czego 43 należały do osiadłych tutaj Żydów. Spis pruski, dokonany u schyłku XVIII wieku wykazał, że Choroszcz zamieszkiwało 584 obywateli, w tym 15 wyznawców wyznania mojżeszowego. Tego też roku gmina w Choroszczy została podporządkowana gminie białostockiej. Już w latach 30. XX wieku Żydów było 450, co stanowiło wówczas 18% ogółu mieszkańców. W latach 90. XIX wieku do Choroszczy napłynęła pokaźna grupa Litwaków, czyli Żydów wygnanych z centralnych guberni Rosji. Do znanych i szanowanych rabinów należeli Leib Rywkin i Chaim Dubrawski. W latach 1930-1934 burmistrzem miasta był Jakub Lichtensztejn.

Choroszczańscy Żydzi zajmowali się głównie rzemiosłem, prowadzili także karczmy. W chwili wybuchu II wojny światowej Choroszcz zamieszkiwało nieco ponad 3000 mieszkańców. 460 było wyznawcami religii mojżeszowej.

Podczas II wojny światowej miejscowi Niemcy urządzili w Choroszczy tzw. getto otwarte. Po pierwszej bóżnicy, pochodzącej prawdopodobnie z przełomu XVI i XVII wieku, istniał starannie utrzymany plac, nazywany po hebrajsku: hamakon hakodesz, czyli święte miejsce. Został zlikwidowany w 1942 roku. W tym samym roku choroszczańscy Żydzi zostali przesiedleni do białostockiego obozu przejściowego, urządzonego na Nowym Mieście. W sierpniu 1943 roku podzielili los jego mieszkańców: zostali zamordowani w hitlerowskim obozie zagłady w Treblince.