První zmínky o synagoze ve městě Osvětim pocházejí z roku 1588. Tato budova byla s velkou pravděpodobností dřevěná a opakovaně vyhořela, např. při požárech v letech 1711 a 1863. Po druhém požáru byla budova znovu vystavěna z kamene.
Na konci 19. století měla tato kamenná synagoga 2000 sedadel a byla známá jako Velká synagoga. Monumentální budova byla výrazným prvkem v předválečném panoramatu Osvětimi. Pro místní židovské společenství byla důležitá i její reprezentativní funkce. Synagoga byla středobodem židovského náboženského života ve městě.
Bohoslužby ve Velké synagoze navštěvovali především méně tradiční členové židovské komunity, včetně lékařů, právníků, obchodníků a úředníků, jen v menší míře do ní zavítali tradičně zbožní členové komunity. Pro ty nebyla dostatečně ortodoxní.
V roce 2004 provedla skupina vědců z polské Toruňské Univerzity na místě Velké synagogy archeologický průzkum. Ve výkopech nalezli více než 400 artefaktů, které bývaly součástí výbavy zničené synagogy, například kousky závradlí, svícnů či věčného světla zvaného Ner Tamid.