自從19世紀末，大批俄國猶太人遷居哈爾濱，使哈爾濱一度成為遠東地區最大的猶太人聚集中心。20世紀20年代，哈爾濱猶太人最多時達到2萬人多，並形成了完整的猶太社會體系。猶太人在哈爾濱進行政治、經濟和文化活動，對哈爾濱的城市建設、經濟繁榮起過重要作用。

為什麼當時大量的猶太人青睞於哈爾濱？

俄羅斯的反猶、排猶政策可以說由來已久，猶太人不時遭受到政府的歧視與迫害，民族平等的理念在俄國猶太人的身上絲毫得不到體現，迫使猶太人不得不重新尋找生存發展空間。

在沙俄時代，各民族中只有猶太人無權自由選擇居住地。不經政府允許，他們不能隨意定居在某個地方，只能居住在特別指定的區域內，這些地方被稱作「猶太人固定居住區」。即便是在居住區內，猶太人也不能隨意定居，任何猶太人在農村都不能以自己或他人的名義進行任何租賃、開小酒館和旅店，也不能在那裡居住。

亞歷山大三世執政時期，對猶太人實施了殘酷的「百分比定額」制度來限制猶太孩子入學。除了限制居住權與受教育權。此外還禁止猶太人在政府機關里任職，把許多猶太人趕出莫斯科。在這樣反猶、排猶的高壓政策下，猶太人的民族性遭到嚴重摧殘。其中，1881年沙皇被刺，猶太人被指控參與了陰謀，於是，在俄國掀起了屠殺猶太人的狂潮。

更為惡劣的是1905年，沙俄在日俄戰爭中戰敗後，把戰敗的原因歸結為美國猶太銀行家對日本人的經濟支持，從而引發了國內新一輪的反猶浪潮。俄國境內數百個城市都發生了迫害乃至屠殺猶太人的暴行，給俄國猶太人帶來了極大的恐懼和災難。

1917年十月革命爆發後，蘇俄猶太人又一次被看作是一切社會弊端和災難的源頭。從1918年起反猶風暴又一次在俄羅斯大地上肆虐，在烏克蘭、西伯利亞、白俄羅斯和遠東等地，猶太人遭到外國干涉軍和白俄匪幫肆意侮辱甚至是血腥屠殺。俄國內戰爭期間針對猶太人有組織的殺戮超過1 500次，近二十萬猶太人在這些反猶事件中喪生。不僅如此，在十月革命取得勝利後，蘇俄對猶太人仍然採取迫害政策，對擁有資產較多的猶太人採取剝奪政策，使富有的猶太人感到空前的生存危機，這也是導致俄國猶太人大量外遷的重要因素。

雖然猶太人在俄國是飽受歧視的末等公民，但是他們在哈爾濱享受到與俄國公民同等的公平待遇。猶太人暫時在哈爾濱找到了免受反猶主義迫害的理想家園。

1896年簽訂的《中俄密約)，使沙俄攫取了中東鐵路的修造，當時的狀況來說，中東鐵路修築的技術問題，基本上是依仗沙俄的工程技術人員得以完成的。而作為全線勘查、設計及組織施工樞紐站的哈爾濱，自然也就成了俄國僑民的中心。大量俄國猶太人鐵路工程師、建築師、專家陸續來到中國建設西伯利亞鐵路中的中東鐵路，於是哈爾濱成為猶太人的聚集地。這樣一來就為俄國猶太人遷入哈爾濱創造了客觀就業條件。猶太企業家也來到哈爾濱創業拉動了哈爾濱近代工商業迅速發展壯大。

​這一時期，哈爾濱開辦了12個麵粉廠，猶太人占了一半。據統計，1908年在哈爾濱的猶太人有6 000人之多，其資產總額已超過3 000萬盧布。到一戰爆發前，哈爾濱己有猶太工商部門116家。猶太人積極投資辦廠，創辦銀行和保險公司，參與交易所的活動，活躍在林業、礦業、航運業及其他商業領域。此時的猶太人在工商業和城市發展建設中已成為一支重要力量。當時的哈爾濱號稱東方巴黎，可見其經濟文化繁榮。

對於每個新移民來說，面對新的語言環境和生活環境，有很多不適應的地方。而恰恰上個世紀的哈爾濱聚居著世界各地僑民，生活著許多來自中國和世界各地的新移民，有著濃厚的國際化色彩作為國際化城市。俄國僑民在哈爾濱的人數規模，是近代中國其他城市無法相比的。同時哈爾濱猶太人主體就是俄國人或俄國公民，語言與文化環境相似性使他們迅速地適應移民生活。

從1898年第一個俄籍猶太人薩·伊·別爾采里來到哈爾濱，到1985年最後一個猶太人阿哥列在哈爾濱辭世，在約一個世紀的哈爾濱猶太人歷史上，中國人以自己的真誠和善良保護關照了猶太人，猶太人也為哈爾濱這座城市做出了巨大貢獻。同時猶太人也奠基哈爾濱近代工業，開創哈爾濱商業貿易，其中知名的馬迭爾賓館、華梅西餐廳都是猶太人經營的。

1945年日本投降後，蘇軍進駐哈爾濱，取締猶太人組織，把一批猶太人押解到蘇聯，關進集中營，哈爾濱猶太社區遭到毀滅性打擊，猶太人紛紛離去。1948年以色列國成立以後，一部分猶太人回到了自己的祖國以色列，另一部分猶太人輾轉去了歐美、澳大利亞和前蘇聯。至此，哈爾濱猶太人及其後裔流散於以色列等世界各國。