Godine 1902, 30.septembra završena je izgradnja i izvršeno osvećenje prve aškenaske sinagoge u Sarajevu u tadašnjoj Tereziji ulici.

Sinagoga je građena u pseudomaurskom stilu sredstvima same Opštine i dobrovoljnim prilozima. Projektant je bio poznati arhitekt Karl Paržik, autor mnogih zgrada u Sarajevu, graditelj Ludwig Jungwirth, a unutrašnja obrada i oslikavanje sinagoge djelo je majstora Ludwiga Oisnera. Osvećenje sinagoge obavio je nadrabin dr. Samuel Vesel.

Iako građena u pseudomaurskom stilu, sa karakteristične četri ugaone kupole i ornamentalnim reljefima na fasadi zgrade, sinagoga se odlično uklopila u sredinu, pretežno građenu u orijentalnom stilu.

Dvorana u kojoj se odvija bogosluženje, sagrađena je sa galerijom, koja je služila za žene. Galerija se oslanjala na deset reljefnih stubova, izlivenih od mjedi. Na istočnoj strani, okrenut prema Jerusalemu, smješten je Aron Hakodeš (ormar u kome stoji Tora ), koji je odvojen poprečnim zidom u kojem je izveden visoki potkovičasti luk iz kojeg se efektno isticalo "svetište".

Godine 1927, u povodu proslave 25-e godišnjice sinagoge, ista je temeljito rekonstruisana, a 1933. godine sa njene zapadne strane sagrađena je zgrada za smještaj administracije aškenaske jevrejske opštine, biblioteke, stana za rabina i ostale prateće službe.

Povodom obilježavanja 400-te godišnjice dolaska Jevreja u Bosnu i Hercegovinu, 1964-1965. godine, sinagoga je pregrađena po visini, tako da je gornji sprat osposobljen za religijski život, a prizemlje za društveni život zajednice.