Odsek harmonike u ovoj školi postoji od školske 1959/60. godine. Na samom početku je vladalo veliko interesovanje za ovaj instrument, pa je nakon nekoliko godina odsek brojao više učenika nego svi ostali odseci zajedno. Prvi nastavnici harmonike nisu bili stručni (uglavnom su to bili honorarni saradnici), ali su sa velikim entuzijazmom obavljali svoj posao, uprkos lošoj materijalnoj situaciji u kojoj se Muzička škola tada nalazia, kao i nedostatku prostora i učila. U prvim godinama rada inspektor nastave harmonike je bila najpriznatiji profesor harmonike iz Beograda u to vreme – prof. Vojislava Vuković, koja se, kao i svi ostali inspektori nastave u to vreme, trudila da uvede savremenu literaturu i metodologiju u rad. U prvim godinama rada postojao je i orkestar harmonika predvođen prof. Rafailom Blamom.

Početak 90-tih, obeležava proširivanje delatnosti škole na nivo srednjeg muzičkog obrazovanja. Prva generacija učenika koja je dobila srednješkolsko obrazovanje na harmonici u našoj školi upisala se školske 1991/92. godine. Nastavu harmonike tim generacijama izvodila je u početku prof. Dušica Timotić, a kasnije nekoliko honorano angažovanih profesora iz drugih gradova: prof. Biljana Radosavljević (iz Beograda), prof. Obrad Kaitović (iz Loznice)...

Nakon što su prve generacije završile svoje srednješkolsko obrazovanje u Valjevu, nastavili su obrazovanje na visokoškolskim ustanovama. U početku je jedina takva ustanova u zemlji bila Viša muzička škola u Nišu, gde su dalje svoje obrazovanje iz naše škole nastavili Slaviša Jezdimirović, Vladimir Obradović i Aleksandar Gavrilović, u klasi prof. Vojina Vasovića.
U to vreme odsek harmonike u Izdvojenom odeljenju Muzičke akademije u Kragujevcu još uvek nije postojao. Nakon završetka Više muzičke škole u Nišu, svoje dalje obrazovanje dalje su nastavili na Muzičkim akademijama u Skoplju (Slaviša Jezdimirović kod prof. Vojina Vasovića) i Srpskom Sarajevu (Vladimir Obradović kod porf. dr Zorana Rakića).
Naj veći pomak u kvalitetu rada odseka harmonike desio se u periodu od 1998. pa do 2008. godine kada je u našoj školi radio prof. dr Zoran Rakić (http://www.zoranrakic.com/), jedan od najznačajnijih i najuspešnijih pedagoga za harmoniku u našoj zemlji.
Njegovim stručnim radom i izuzetno profesionalnim odnosom prema nastavi iznedrio je plejadu vrsnih muzičara od koji su zaslužni za veoma veliki rejting naše škole na domaćim i stranim takmičenjima za harmoniku.
Jedan od prvih je bio Nikola Janković (danas profesor ove škole), koji je pored sjajnih nastupa na domaćim takmičenjima nastupao i na 56. Svetskom kupu u Slovačkoj (4. mesto), i stigao čak do Australije (međunarodno takmičenje – 1. mesto) i Novog Zelanda gde je održao solistički koncert. Kasnije je kao student harmonike nastupio na još nekoliko svetskih takmičenja.
Sledeća po sjajnim rezultatima koje je postizala kao učenik naše škole, bila je Anita Petrović. Pored odličnih nastupa na domaćim takmičenjima, učestvovala je i na takmičenju u Kastelfidardu (Italija).
Iz te generacije im može stati rame uz rame i Jelena Branković koja je 2005. godine nastupila na 55. Svetskom trofeju (6. mesto) u Francuskoj i na 58. Svetskom kupu (5. mesto) u Portugaliji.
Stopama ovih sjajnih učenika prof. Zorana danas bravurozno ide i Aleksandar Nikolić, koji se sa skoro svih takmičenja u zemlji vraća sa maksimalnih 100 poena. Najveći upesi u inostranstvu su mu 3. mesto u Klingentalu i 1. nagrada u Kastelfidardu (Italija). Njegovim stopama ide i Aleksa Mirković, naj mlađi od njih, koji se do sada već pokazao na inostranim takmičenjima u Ljubljani, Skoplju, Albeni (Bugarska) i Istočnom Sarajevu.

Aktiv harmonike

U ovoj školskoj godini nastavu harmonike izvode:

prof. Dušica Timotić – individualna nastava harmonike u osnovnoj školi,
prof. Slaviša Jezdimirović – individualna nastava harmonike u osnovnoj i srednjoj školi, čitanje s' lista i Orkestar harmonika osnovne škole,
prof. Vladimir Obradović – individualna nastava harmonike u osnovnoj i srednjoj školi,
prof. Sreten Nedić – individualna nastava harmonike u osnovnoj i srednjoj školi, čitanje s' lista i kamerna muzika,
prof. Nikola Janković – individualna nastava harmonike u osnovnoj i srednjoj školi, čitanje s' lista, kamerna muzika i izvođenje nastave u Izdvojenom odeljenju u Lajkovcu.

Nastavu harmonike u matičnoj školi trenutno pohađa 44 učenika u osnovnoj školi i 8 učenika u srednjoj, dok u izdvojenom odeljenju u Lajkovcu ima 7 učenika.

U školi, kao vid obaveznog grupnog muziciranja učenika, postoji i orkestar harmonika.