1925. gada 20. oktobrī tika nodibināta Cēsu mūzikas skola.
Skolas izveidotājs, vienlaikus arī direktors un 2.pamatskolas pārzinis, Trīszvaigžņu ordeņa kavalieris Voldemārs Bišers skolā strādāt aicināja ievērojamus māksliniekus, tā laika izcilas personības. Sākumā mācības notika trijās klasēs: dziedāšanas klasē nodarbības vadīja koncertdziedātājs Artūrs Kornets, klavieru klasē – pianiste Hilda Bērs, bet vijoles klasē – Verners Taube.
Nākamais skolas direktors, leģendārais Helmers Pavasars, skolā sāka strādāt jau 1932.gadā. Sākumā – par vijoles skolotāju, bet jau 1934.gadā viņš kļūst par mūzikas skolas direktoru. Nozīmīgs Helmera Pavasara devums ir skolas audzēkņu simfoniskā orķestra dibināšana.1937.gadā mūzikas skolu pēc Alfrēda Kalniņa ierosinājuma pārdēvē par Cēsu pilsētas Tautas konservatoriju.
Kad 1938. gadā uz Cēsīm pārceļas Rīgas skolotāju institūts, manāmi sarosās un uzplaukst muzikālās aktivitātes ne vien pilsētā, bet arī visā Vidzemes novadā. Vairāki pedagogi un audzēkņi paralēli darbojas gan skolotāju institūtā, gan mūzikas skolā.
Mūzikas skolas darbība nepārtrūkst arī vācu okupācijas gados. No 1941.-1944. gadam par Cēsu mūzikas skolas direktoru kļūst diriģents un komponists Arnolds Kalnājs. Šis periods ir grūts, mācības notiek arī pedagogu dzīvokļos. Toties par tradīciju jau kļuvušie skolas audzēkņu un pedagogu veidotie koncerti notiek.
Pēc Otrā pasaules kara skolas dzīve pamazām atgūst jaunu elpu. 1944.gada 1. oktobrī par Cēsu pilsētas mūzikas vidusskolas (skolas tā laika nosaukums) un no šī brīža arī bērnu mūzikas skolas direktoru kļūst koru un pūtēju orķestru diriģents, pūšamo instrumentu klases pedagogs Kārlis Ozols.
Mūzikas skolai piešķir telpas Mazā Kalēju ielā, no kurienes mūzikas skaņas dzirdamas arī tagad. Pēc komponista A.Kalniņa nāves, godinot latviešu mūzikas klasiķa piemiņu, 1951. gadā Cēsu mūzikas vidusskola tiek nosaukta Alfrēda Kalniņa vārdā.
Padomju gados skolā strādā spoža pedagogu komanda, kura veido ne tikai skolas, bet visas pilsētas un pat Vidzemes mūzikas dzīvi. Skolas tā laika absolventu vidū ir daudzi Latvijā zināmi savas jomas profesionāļi, interesanti, ka daudzi no skolas absolventiem, kas atraduši ceļu mūzikas pedagoģijā, atgriezušies savā skolā un strādājuši vai joprojām strādā kā mūzikas skolotāji. Nozīmīga Vidzemes mūzikas dzīves daļa ir diriģenta un skolas pedagoga Igora Grapa 1981.gadā dibinātais Vidzemes kamerorķestris, kurā joprojām kopā ar Vidzemes mūzikas skolu pedagogiem, muzicē arī A.Kalniņa Cēsu Mūzikas vidusskolas absolventi un spējīgākie audzēkņi, pilnveidojot savas prasmes un gūstot neatsveramu koncertu pieredzi. Pašlaik orķestri vada Andris Veismanis, kura vadībā orķestris ik gadu sniedz ap 20 koncertu visā Latvijā, Ar orķestri sadarbojušies daudzi no labākajiem Latvijas dziedošajiem un spēlējošajiem māksliniekiem, tostarp I. Galante, I. Kalna, K. Gailīte, S. Jēgers, E. Martinsone, D. Kalniņa, D. Krenberga, M. Kūlis, J. Maļeckis, A. Štrāls, K. Rūtentāls, A. Bigača u. c., kā arī viesmākslinieki no Vācijas, Krievijas, Zviedrijas un Igaunijas – M.Turi, R.Joost, K.Urb, R.Tarum, I.Tarum.
Skolas mācību telpas gadiem ilgi ir atradušās divās ēkās – “bērnu skolā” L.Kalēju ielā 4 un Ziemeļu ielā 16, kur skola darbojās līdz 2014.gada maijam, kad skolas kolektīvs pārceļas uz jaunām mājām- Vidzemes koncertzālēs “Cēsis” telpās, Raunas ielā 12. Lai arī ievērojams nodarbību skaits notiek jaunajās telpās, nams Kalēju ielā 4 joprojām tiek izmantots skolas vajadzībām un gaida savu atdzimšanu.