Синагога була побудована в 1895 році за гроші купця Гавриїла-Якова Гуселевича Розенберга і була реконструйована та розширена в 1915-1916 роках за гроші купця та його племінника Володимира Гінзбурга. Вона побудована в мавританському стилі. Після приходу більшовицької влади до Києва, почалася кампанія боротьби з релігією: знищення матеріальної бази храмів, розкольницька діяльність серед духовенства та віруючих, постійні переслідування та репресії. У 1929 року більшовики почали масово закривати церкви, синагоги, мечеті, мусульманські школи - мектебі та медресе, єврейські єшиви, молитовні будинки. Дзвони знімали, ритуальне срібло вилучали, храми руйнували або перетворили на школи, культурно-освітні установи, віддавали під господарські потреби. Замість традиційних шестикінечних магендавидів фасади колишніх синагог почали прикрашати п’ятикінечні зірки. Наприкінці 30-х років ХХ століття у Києві перестали діяти всі синагоги. У колишній синагозі Розенберга почала працювати реміснича артіль. Потім нацисти влаштували там конюшню. Після закінчення Другої Світової війни, в 1945 році синагога була відновлена, а в пострадянські часи це була єдина діюча синагога у Києві. Після Другої Світової війни всі спроби провести реституцію вкраденого майна громадам були марними. Після здобуття Україною Незалежності у 1992 вийшов указ Президента про повернення релігійним громадам їх релігійних будівель. Згідно цього указу синагога офіційно стала власністю єврейської громади міста. У 1990 році Яків Дов Блайх став головним рабином Києва та України, а синагога була відновлена. Зусилля громади були спрямовані на відкриття єшиви (релігійної школи) та жіночої єврейської гімназії. Відновлення відбулося у вересні 2002 року.