Iki XX a. pr. sostinėje nebuvo koncertams ir teatrui tinkamos salės, taigi tuometė miesto valdžia nutarė rekonstruoti Pirklių namus ir čia įrengti Miesto salę. Rekonstrukcijos projektą parengė Vilniaus miesto architektas Konstantinas Korojedovas, prekybinę pastato funkciją pakeitęs į kultūrinę. Kadangi salė buvo kuriama kaip išskirtinė miesto elito susibūrimo vieta, pastato eksterjere siekta prabangos, sekant XIX a. Paryžiaus operos „Grand Opéra“ pavyzdžiu, suformuotas įmantrus barokinės stilistikos kupolas.
Naujoji Miesto salė tapo pagrindinių kultūrinių ir politinių įvykių epicentru. Čia koncertavo Fiodoras Šaliapinas, Sergejus Rachmaninovas, Aleksandras Skriabinas, Aleksandras Glazunovas ir kt. Šioje salėje Lietuvių savišalpos draugijos chorui dirigavo Mikalojus Konstantinas Čiurlionis, o 1909 m. pirmąkart scenoje pasirodė Vilniuje gimęs vunderkindas Jascha Heifetzas, tapęs vienu iškiliausių XX a. smuikininkų. Be klasikinės muzikos koncertų, čia taip pat vykdavo teatro vaidinimai, įvairūs visuomenės susirinkimai, veikė pirmasis lietuviškas knygynas, susirinko Didysis Vilniaus Seimas, buvo rodoma pirmoji lietuviška opera „Birutė“. Pirmojo pasaulinio karo metais pastate veikė karo ligoninė, kino teatras ir kelios mokyklos.
Lietuvoje Filharmonija įkuriama tik 1940-aisiais buvusiose Miesto salėje. Netrukus Vilniuje pradedama nauja muzikinė tradicija – kiekvieną ketvirtadienį ir sekmadienį sausakimšoje naujojoje koncertų salėje rengiami simfoniniai koncertai.
Vilniuje vėl paskelbus karo padėtį ir į Filharmoniją įsiveržus vokiečių kariuomenei, pastatas tarnavo kaip karo lauko telefono ryšių skyrius. Naciams Vilniaus žydus suvarius į getą, orkestro direktorius, žydų muzikantams išmokėjęs atlyginimus ir suteikęs galimybę pasislėpti, iš karto juos atleido. O septynis jų paslėpė bibliotekoje – ten jie slapta dirbo natų perrašinėtojais.
1944 m. rugpjūtį Raudonajai armijai okupavus Lietuvą, Vilniaus filharmonija buvo atkurta, tačiau jos kultūrinė veikla buvo itin nereguliari. Ilgainiui pastatas atgavo prestižą.
Dabartinė Lietuvos nacionalinė filharmonija yra didžiausia Lietuvos koncertinė įstaiga.