Die erste historisch belegte Synagoge der jüdischen Gemeinde Paderborns stand an der Kuhgasse nahe dem Neuhäuser Tor. Um 1800 errichtete man eine Synagoge und ein Schulgebäude in der Padergasse (später Standort des Kaiser-Karls-Bads). Als diese baufällig wurde, erwarb die Gemeinde im Dezember 1860 ein Grundstück auf der Busdorf-Immunität.
Nach dem Bau einer Schule und dem Ankauf eines Nachbargrundstücks konnte man im August 1882 eine neue Synagoge im „orientalisierenden“ Stil einweihen. Sie wurde durch einen achteckigen Turm aus gelben Ziegelsteinen und Zwiebeltürmchen markant hervorgehoben und bot Platz für 190 Männer und 103 Frauen.
Im Zuge reichsweiter Pogrome steckte die SS im Einvernehmen mit der nationalsozialistischen Stadtführung am 10. November 1938 die Synagoge in Brand.
Am 30. November musste die jüdische Gemeinde zwangsweise sämtlichen Grundbesitz an die Stadt übertragen. Die Ruinen der Synagoge wurden abgetragen. Das jüdische Gemeindehaus wurde erst 1945 zerstört.
Nur wenige jüdische Mitbürger überlebten die Verfolgungen oder kehrten nach Paderborn zurück. 1950 bezog eine noch sehr kleine Gemeinde eine neue Synagoge in der Pipinstraße unweit des jüdischen Friedhofs an der Borchener Straße. 1953 konnte die „Jüdische Kultusgemeinde Paderborn“ gegründet werden. Die jüdische Gemeinde besaß wieder eine Stimme.
Mit dem Gedenken an die antisemitischen Verbrechen der NS-Zeit tat man sich in Paderborn lange schwer. Ein erstes Denkmal am Standort der alten Synagoge entstand erst 1980. 1993 wurde der Platz umgestaltet und erhielt den Namen „An der Alten Synagoge“. Der dänische Künstler Per Kirkeby errichtete ein Mahnmal, das die farbigen Fassadenelemente der Synagoge aufnahm. Eine Bronzetafel verzeichnet die Namen ermordeter Paderborner Jüdinnen und Juden.
