W 1925, z inicjatywy radomskiego Towarzystwa Muzycznego im. Fryderyka Chopina, powstała kolejna placówka. Jej pierwszym dyrektorem został senator Maciej Glogier. 31 stycznia 1941 szkołę zamknęły okupacyjne władze niemieckie, ale lekcje odbywały się nadal – w konspiracji, w domach prywatnych.
„Po zakończeniu wojny muzycy wywodzący się ze środowiska odpowiedzialnego za powstanie i funkcjonowanie szkoły glogierowskiej doprowadzili do reaktywacji edukacji muzycznej w Radomiu” - czytamy na stronie Zespołu Szkół Muzycznych.
1 września 1945 roku 61 uczniów pod opieką 15 nauczycieli rozpoczęło rok szkolny w nowo powstałym Instytucie Muzycznym, mieszczącym się w dwóch salach w kamienicy przy ul. Żeromskiego 36. „Data ta jest początkiem nowego etapu w życiu muzycznym społeczności miasta Radomia. Niższa Szkoła Muzyczna i Szkoła Umuzykalniająca powstały dzięki staraniom wielu ludzi związanych z ośrodkami muzycznymi działającymi przed wojną w regionie radomskim” - napisali autorzy historii ZSM.
Dwa lata później powstała Średnia Szkoła Muzyczna, która funkcjonowała zaledwie przez cztery lata. W 1949 roku, w wyniku reorganizacji szkolnictwa artystycznego, Niższa Szkoła Muzyczna i Szkoła Umuzykalniająca połączyły się w Szkołę Muzyczną I stopnia. Uczniowie realizowali program edukacji artystycznej w sześcioletnim dziale dziecięcym lub pięcioletnim dziale młodzieżowym.
1 września 1952 placówkę upaństwowiono, pozostawiając na stanowisku dyrektora Marcelego Karczemnego. 280 uczniów uczyło się w 10 sekcjach: fortepianu, skrzypiec, akordeonu, wiolonczeli, kontrabasu, klarnetu, trąbki, rogu, puzonu i tuby. Działał też zespół akordeonowy, smyczkowy i instrumentów dętych. Prowadzony przez Stanisława Rychlewskiego zespół instrumentalny przekształcił się wkrótce w małą orkiestrę kameralną. Stefan Wrocławski kierował chórem młodzieżowym, a Kazimierz Potkański - chórem dziecięcym. W 1953 powstała klasa śpiewu solowego prowadzona przez Jerzego Bukowieckiego.
Rok 1957 to znacząca data w historii placówki - miasto postawiło do dyspozycji uczniów część dwupiętrowego budynku przy ul. Waryńskiego 2. Natomiast 1 września 1961 działalność zainaugurowała Państwowa Średnia Szkoła Muzyczna, która powstała dzięki długoletnim staraniom dyrekcji i pomocy władz miasta. Pięć lat później zmienia się nazwa placówki – na Państwową Szkołę Muzyczną I stopnia i Państwową Szkołę Muzyczną II stopnia. Utworzono też nowy wydział PSM II stopnia - wydział wychowania muzycznego.
18 listopada 1978 roku szkoła otrzymuje imię Oskara Kolberga – urodzonego w Przysusze muzyka, twórcy polskiej etnografii.
Od 1992 szkoła miała dwa działy nauczania: sześcioletni dziecięcy i czteroletni młodzieżowy. Nauka w Szkole Muzycznej II stopnia trwała sześć lat i prowadzona była na trzech wydziałach: instrumentalnym, wokalnym i rytmiki. Cztery lata później, 1 września, w PSP nr 28 powstała klasa muzyczna - przedmiotów teoretycznych dzieci uczyły się przy ul. Jaracza, a na zajęcia muzyczne szły na ul. Waryńskiego.
W 1999 Państwowa Szkoła Muzyczna I stopnia została połączona z PSM II stopnia; powstał Zespół Szkół Muzycznych im. Oskara Kolberga. Dwa lata później działalność rozpoczęła Ogólnokształcąca Szkoła Muzyczna II stopnia, która w pionie ogólnokształcącym realizowała program gimnazjum i liceum ogólnokształcącego, a program szkoły muzycznej II stopnia w pionie kształcenia artystycznego.
W 2003 roku powiększył się stan posiadania placówki - władze miasta zdecydowały o przekazaniu jej część budynku przy ul. Kilińskiego 14. Zajęcia mieli tu przede wszystkim uczniowie Ogólnokształcącej Szkoły Muzycznej I i II stopnia.
O tym, że placówka artystyczna potrzebuje własnego budynku, najlepiej z salą koncertową mówiło się od lat, ale zawsze brakowało pieniędzy na porządny obiekt. Dopiero dostępność funduszy unijnych zmieniła tę sytuację. Władze miasta zdecydowały, że nowoczesny budynek stanie na miejscu dawnej bursy leśników przy ul. 25 Czerwca. Rok szkolny 2010/2011 uczniowie rozpoczęli już w nowej siedzibie.
