Pod budowę przeznaczono parcelę przy przedmieściu lubelskim, w pobliżu granicy z wsią Dzierzków. Projekt gmachu zamówiono u znakomitego włoskiego architekta, przedstawiciela klasycyzmu Antonio Corazziego (1792-1877), który do Królestwa przyjechał w 1818 roku i pozostawił po sobie ok. 45 realizacji. Wizja Corazziego w 1822 roku została zatwierdzona przez namiestnika Królestwa, gen. Józefa Zajączka. Budowa rozpoczęła się trzy lata później, a zakończyła w 1827.
Aż do 1918 roku budynek nieprzerwanie pełnił rolę siedziby władz administracji - do 1837 mieściła się tu Komisja Województwa Sandomierskiego, w latach 1837-1844 - gubernia sandomierska, a w latach 1844–1915 - gubernia radomska. Sale gmachu były również wykorzystywane do prezentacji zbiorów muzealnych. Pierwsze, romantyczne muzeum urządził tu Edward Białoskórski, gubernator w latach 1845-1856. Znalazły się w nim zbiory paleontologiczne, geologiczne, ornitologiczne, zoologiczne oraz obrazy, między innymi Petera Paula Rubensa „Obrzezanie Jezusa — szkic do wielkiego obrazu” i Rembrandta „Kobieta przy jedzeniu”.
To z balkonu pałacu sandomierskiego 2 listopada 1918 proklamowano republikę radomską. Po 1918 roku budynek był siedzibą władz starostwa. W 1923, na dwa lata, ulokowano tu muzeum PTK, powstałe ze zbiorów podarowanych miastu przez ks. Jana Wiśniewskiego.
Podczas II wojny światowej dawny pałac Komisji Województwa Sandomierskiego zajęty został przez okupacyjne władze niemieckie dystryktu radomskiego. W latach 1938-1942 dobudowano tylne skrzydło, a władze niemieckie wzniosły nowy front od strony ul. Curie-Skłodowskiej.
Po zakończeniu II wojny światowej w gmachu przy ul. Żeromskiego siedzibę znalazło Prezydium Miejskiej Rady Narodowej i Prezydium Powiatowej RN, stąd do dziś nadal używane przez starszych radomian określenie „prezydium”. W 1964 (w innych źródłach – w 1966)roku na dziedzińcu wybudowano salę koncertową wraz zapleczem według projektu architekta Eugeniusza Szparkowskiego. W latach 1975-1998 część gmachu była siedzibą władz woj. radomskiego. Od 1998 budynek zajmuje urząd miejski oraz delegatury mazowieckich instytucji wojewódzkich.
W gmachu mieści się również Galeria Dziedzictwa Kulturowego założona przez Społeczny Komitet Ratowania Zabytków Radomia.
Bryła projektu Corazziego składa się z dwupiętrowego korpusu głównego (od strony ul. Żeromskiego) i skrzydeł bocznych o tej samej wysokości (od strony ulic Kilińskiego i Niedziałkowskiego). Piętnastoosiowa elewacja frontowa ma trzy ryzality. Środkowy, trzyosiowy, ozdobiony jest czterokolumnowym portykiem toskańskim zwieńczonym trójkątnym tympanonem. Dwa skrajne zdobią natomiast wnęki ujęte pojedynczymi kolumnami, zwieńczone murkami attykowymi. Parter boniowany, kondygnacje oddzielają gzymsy, drugie piętro zwieńczone belkowaniem z fryzem tryglifowym oraz gzymsem modylionowym. Budynek pierwotnie dwutraktowy (wejścia umieszczone były w ryzalitach skrajnych), po przebudowie z okresu okupacji hitlerowskiej jednotraktowy, z wejściem głównym umieszczonym w ryzalicie środkowym.