Wo bereits seit 1473 ein erstes Rathaus (in Nord-Süd-Ausrichtung) gestanden hatte, errichteten Steinmetzmeister Hermann Baumhauer, Wewelsburg, und Ratszimmermeister Peter Richel, Höxter, 1613-1615 einen zweigeschossigen Neubau im Stil der Weserrenaissance. Auf der nun nach Westen ausgerichteten Schauseite nehmen zwei seitliche, auf Säulen gestellte Ausluchten in der Gestaltung die Hauptfassade auf.
Im 18. und 19. Jh. übernahmen das Hauptzollamt, die Stadtwaage und die Polizei eigene Räume. Die städtische Feuerwehr bewahrte Löschgerät auf, und unter dem Dach lagerte Hafer für die Militärverwaltung.
Der Paderborner Architekt Rudolf Volmer übernahm 1870 die Sanierung. Nach Streitigkeiten mit der Stadt übernahm 1874 der Zimmermeister Schafmeister die Arbeiten. Bis 1878 wurde der Innenraum neu gestaltet. Es entstanden die prägende Eingangshalle und das großzügige Treppenhaus. Im Saal stand an der Westseite eine auch ein Ziffernblatt nach außen zeigende, von Johann Ignaz Fuchs, Bernburg, geschaffene Rathausuhr.
Ende des 19. Jahrhunderts wuchs die Verwaltung der nun rapide wachsenden Stadt Paderborn über ihr Rathaus hinaus. Sie machte neuen Mietern Platz. 1894 richtete der Altertumsverein im Erdgeschoss ein Museum ein, 1903 zog die Stadtsparkasse, 1911 der Verkehrsverein ein.
Das 1945 niedergebrannte Rathaus wurde bis 1954 aufgebaut, 1962 außen neu geputzt und 1975 dem Originalzustand wieder so nahe wie möglich gebracht. Das Gebäude erstrahlt in Grau (Säulen, Portale, Fensterrahmen, Dachgesimse) und Weiß (Wandflächen). Zu den wenigen, aber umso deutlicher hervortretenden farbigen Elementen gehört das Stadtwappen am Hauptgiebel unterhalb des Fensterbandes.
Heute dient das Rathaus in erster Linie repräsentativen Zwecken. Die Verwaltung ist im Erdgeschoss mit dem Standesamt präsent geblieben. Im kleinen Saal werden Trauungen vorgenommen. Der große Saal im Obergeschoss wurde 2006/07 renoviert bzw. modernisiert; dabei wurden die Erker nach innen geöffnet. Er bietet Raum für Empfänge und Festakte. Hier tagt außerdem der Rat. Nach schweren Sturmschäden im Januar 2018 musste das Dach erneuert werden. Bei dieser Gelegenheit sanierte man abermals die Außenwände und erneuerte den Anstrich.
Vor dem Rathaus steht einer jener „Kümpe“, aus denen die Bürger Lösch- und Brauchwasser schöpfen konnten, das seit 1523 von der „Wasserkunst“ aus den Paderquellen herangepumpt wurde. Nach 1870 wurde der Kump auf den Vorplatz verschoben und später durch eine Schale zum Springbrunnen umgestaltet.