Został założony w 1890 roku na północnych obrzeżach miasta zwanych Bagnówką. Powstał z inicjatywy rabina Samuela Mohilewera. Był największą żydowską nekropolią w Białymstoku. Przed wojną zajmował ponad 12,5 ha, obecnie jego powierzchnia liczy około 10 ha.
Duża część cmentarza uległa dewastacji. Do dziś przetrwało około 6 000 macew, czyli tradycyjnych żydowskich nagrobków. Macewy mają formę prostokątnej płyty, zamkniętej półkoliście lub trójkątnie. Na ich górnej części umieszczano symboliczne płaskorzeźby, np. z motywem lwów, świecznika, księgi, dzbanka lub rąk złożonych do modlitwy. W zdecydowanej większości macewy pokrywano polichromiami. W Polsce do budowy nagrobków używano przede wszystkim piaskowca. Na cmentarzu na Wschodniej znajdują się także macewy z marmuru, granitu, wapienia i betonu. Inskrypcje sporządzano głównie w języku hebrajskim ale zdarzają się także napisy w językach: jidysz, niemieckim, rosyjskim i polskim. Macewy są sukcesywnie odnawiane.
Osoby szczególnie zasłużone, np. rabinów i cadyków, grzebano w kaplicach grobowych zwanych ohelami. W centrum cmentarza zachował się ohel Chaima Herza Halperna, najdłużej sprawującego funkcję rabina Białegostoku, zmarłego w 1919 roku. Na cmentarzu znajduje się granitowy pomnik upamiętniający 89 ofiar białostockiego pogromu, który wybuchł w 1906 roku. Zabici zostali pochowani w zbiorowej mogile. Ich nazwiska wraz z okolicznościowym epitafium skomponowanym przez słynnego poetę Zelmana Sznejura, wyryto na obelisku.
Cmentarz był użytkowany przez pół wieku. Szacuje się, że do wybuchu wojny rokrocznie grzebano na nim około 500 osób. Ostatni pochówek miał miejsce w 1969 roku.