Ideea crearii unei orchestre simfonice profesionale si permanente i se datoreaza compozitorului Otto Nikolai, chemat in 1841 sa preia postul de Kapellmeister al Operei Curtii din Viena. O formatie compusa din 64 de instrumentisti la acea data si despre care un om politic al vremii, Ludwig Ritter von Przibram, scria in memoriile sale: „Salariul unui membru al acestei falange, careia toti maestrii, inclusiv Richard Wagner, i-au recunoscut locul de frunte, era sub ceea ce trece astazi drept minimul vital al unui functionar al statului“. In fata vesnicei reticente a Curtii imperiale de a mari salariile, Otto Nikolai gaseste o solutie de compromis in organizarea de catre orchestra a unor concerte simfonice – iar primul avea loc la 28 martie 1842 –, constituind concomitent noua societate filarmonica.
Statutele ei au fost semnate in octombrie 1842 si – observa Christian Merlin – in prima lor redactare democratia in sanul societatii aparea ca un element secundar. „Cine contravine ordinelor Kapellmeister-ului sau ale Orchesterdirektor este exclus de facto de la orice participare in intreprindere“. Functia de Orchesterdirektor o detinea din 1830 Georg Hellmesberger, al carui fiu (si elev) Josef Hellmesberger Sr. era recrutat la varsta de 27 de ani pentru a ocupa postul de solist al Orchestrei. Mai tanarul Hellmesberger, care fondase in 1849 un cvartet ce ii purta numele, iar din 1851 era profesor la Conservator si director artistic al Societatii Prietenilor Muzicii, se bucura de o autoritate evidenta. Considerat un exponent al „stilului vienez“, Hellmesberger avea sa formeze 29 din viitorii violonisti ai Filarmonicii.
Influentul critic al epocii Eduard Hanslick il compara cu Joseph Joachim, dedicatarul si creatorul Concertului pentru vioara de Brahms, si el format de Georg Hellmesberger: „Stilul natural fin si excitabil al lui Hellmesberger ne-a atins imediat inima, mai mult decat seriosul sstilt roman inflexibil al lui Joachim. Felurile lor de a canta se disting aproape ca femininul de masculin sau, pentru a folosi o imagine muzicala, asemenea cromaticului si diatonicului“. Ceea ce il face pe Christian Merlin sa comenteze: „Ideea unei Austrii feminine care s-ar opune unei Germanii masculine este, asa cum a demonstrat-o Gerald Stieg, «unul din stereotipurile absolut fundamentale legate de identitatea austriaca»“.
In 1869, 20 dintre violonistii si altistii orchestrei, dintr-un total de 45, erau elevii celor doi profesori Hellmesberger, tatal, Georg, fiind elev al lui Joseph Böhm, care formase aproape toti instrumentistii primei formatiuni ai Filarmonicii. Böhm este considerat, de regula, fondatorul scolii vieneze de vioara. Or, constata cu amuzament Christian Merlin in cartea sa, „Böhm era maghiar si elev al francezului Pierre Rode, el insusi discipol al virtuozului italian Giovanni Battista Viotti. […]Astfel, ceea ce trece drept scoala vieneza de vioara este fructul invatamantului unui ungur format de un francez, elev al unui italian: de unde si nevoia de a relativiza insasi notiunea de scoala intr-o epoca in care Europa este un loc de mare circulatie“. Pe de alta parte, noteaza autorul, faptul ca Georg Hellmesberger a format in total 25 de membri ai Orchestrei Filarmonice, iar fiul sau Josef alti 29, da masura „unei vointe de unificare a stilului si a sunetului“. In paranteza fie spus, familia Hellmesberger era cea care avea sa-l adaposteasca si ingrijeasca o vreme pe micul George Enescu, la Viena, spre sfarsitul veacului.
O caracteristica dominanta a Orchestrei Filarmonice in a doua jumatate a secolului al XIX-lea, evidentiata de Christian Merlin, avea sa fie plurietnicitatea ei. Efectivele marite in 1869 includeau 13 instrumentisti nascuti in Boemia, sapte in Ungaria, doi in Moravia si cate unul din Slovacia, Croatia, Rusia si Italia. Acordarea drepturilor civice egale in Imperiu deschidea si calea angajarii fara restrictie a muzicienilor evrei, 15 in formatia de la 1869. Orchestra avea atunci doi Konzertmeister, in persoana lui Josef Hellmesberger si a ungurului Jakob Grün – si el un remarcabil pedagog ce avea sa formeze alti 17 viitori membri ai Filarmonicii –, iar prim violoncelist devenea David Popper, fiul unui cantor de sinagoga din Praga. Pupitrul contrabasilor era format mai mult de jumatate din muzicieni din Boemia, iar despre scoala de contrabas vieneza se poate spune ca este in esenta una de origine ceha.
Largirea Orchestrei Filarmonice in 1869 s-a datorat inaugurarii noii Opere din Viena, iar efectivele formatiunii aveau sa capete o forma pastrata pana la cel de-al Doilea Razboi Mondial, cu 18 prim-violonisti si 17 secunzi, 12 viole, zece violoncelisti, zece contrabasisti s.a.m.d. Numarul mare de noi angajati avea sa creeze si noi tensiuni, remuneratia concertelor simfonice facandu-se prin impartirea castigurilor intre membrii societatii filarmonice. Adunarea generala ratifica in octombrie 1869 un aranjament ce crea o „Orchestra Filarmonica cu doua viteze“. Muzicienii angajati pana la incheierea stagiunii 1868-69 erau considerati membri deplini, iar cei nou-veniti erau siliti sa se multumeasca cu un statut defavorizant: venitul de baza al unui instrumentist, in stagiunea 1869-70, era documentat la 147 de guldeni, fata de numai 74 pentru un nou angajat.
In ianuarie 1870 avea sa fie inaugurata sala Musikverein a Societatii Prietenilor Muzicii, unde aveau sa fie mutate concertele in abonament, de mare succes, ale Filarmonicii, ce se stabiliza astfel in cele doua locatii, ramase resedinte ale ei pana astazi. Printr-un acord cu Societatea Prietenilor Muzicii, Orchestra obtinea ca 40 de membri ai Filarmonicii sa participe la fiecare concert al Gesellschaft, iar membrii fondatori si donatorii sa capete drept de preemtiune asupra biletelor de concert. Urmare a acordului, doua sute din abonatii fideli ai Filarmonicii se trezeau fara locuri… Tot atunci, in 1875, Hans Richter, dirijorul ce avea sa creeze Inelul wagnerian la Bayreuth, era ales ca dirijor al concertelor in abonament, un post pe care avea sa-l pastreze timp de 23 de ani.
Din 1877 incep si primele deplasari in afara Vienei. Filarmonica il omagia atunci in doua concerte pe Mozart la Salzburg, iar in 1879 se producea la Budapesta. Avea sa mai treaca timp pana la primul turneu adevarat, in afara Imperiului, sub directoratul lui Gustav Mahler. Un timp in care orchestra recruta un violonist maghiar cu numele Arthur Nikisch, ce ramanea timp de trei ani, inainte de a deveni celebrul dirijor si creator al Simfoniei a 7-a a lui Bruckner, pe cel de-al treilea membru al dinastiei Hellmesberger, Josef Jr., iar dupa retragerea tatalui acestuia, pe ieseanul Arnold Rosenblum, cunoscut mai apoi ca Rosé, ce era numit, la 18 ani, Konzertmeister, dupa ce ii impresionase pe membrii Filarmonicii cantand concertul lui Karl Goldmark.