Die Standortkonzeption der sächsischen Staatsregierung bringt für Bautzen nicht nur den Verlust des eigenständigen Landgerichtes mit sich, sondern auch eine Ortsveränderung des Finanzamtes. Seit 1933 ist – mit Unterbrechungen – die 1842/44 nach Entwürfen des berühmten Architekten Gottfried Semper erbaute Alte Kaserne am Wendischen Graben Domizil der mehr oder weniger beliebten Behörde.
Doch dies soll sich ändern: "Im Zusammenhang mit der Konzentration der Finanzämter Hoyerswerda und Bautzen in der Kreisstadt ist beabsichtigt, das Finanzamt Bautzen in die Liegenschaft Käthe-Kollwitz-Straße 17 – das Gelände der früheren Offiziershochschule 'Franz Mehring' – zu verlagern", bestätigt Alwin-Rainer Zipfl, Referent im Sächsischen Finanzministerium. Dies soll allerdings noch nicht heute oder morgen geschehen, sondern "nach gegenwärtigem Stand der Planungen nicht vor 2017/18."
Bereits vorab – nämlich ab Juli – soll allerdings die Abteilung Betriebsprüfung in die landeseigene Liegenschaft an der Käthe-Kollwitz-Straße ziehen. Diese ist bislang in einem Mietobjekt im Gesundbrunnen untergebracht.
Die "Alte Kaserne" wurde für die seit 1764 in Bautzen stationierte Garnison erbaut und faßte 350 Soldaten. Das Bauwerk ist dem Wendischen Turm und der ehemaligen Stadtmauer angepaßt.
Seit 1933 nutzte das Finanzamt dieses Gebäude. Nach Unterbrechungen hielt diese Behörde im Juli 1990 wieder Einzug.