In 1840 werd de provincie Holland zonder veel ophef opgesplitst in twee afzonderlijke provincies, nadat het noordelijke en zuidelijke deel meer dan 700 jaar één geheel hadden gevormd. Haarlem werd aangewezen als hoofdstad van de nieuwe, zelfstandige provincie Noord-Holland. De formele opwaardering tot provinciehoofdstad was de uitkomst van een al decennia durende concurrentieslag met Amsterdam. Voor de Haarlemmers was de aanwijzing een welkome opsteker. De stad leidde al sinds het midden van de achttiende eeuw een kwijnend bestaan door de achteruitgang van de textielindustrie en de brouwerijen. Een vooraanstaande plaats nam het provinciebestuur overigens voorlopig niet in. De provinciale griffie telde in 1842 niet veel meer dan enkele tientallen ambtenaren. Zij deden hun werk vanuit een paar krap bemeten panden aan de Jansstraat. De leden van Provinciale Staten hielden uit ruimtegebrek hun vergaderingen in de grote zaal van het oude Prinsenhof in het stadhuiscomplex. Pas in 1930 betrokken bestuur en ambtenaren het representatieve Paviljoen Welgelegen aan de Dreef, in 1789 gebouwd als buitenplaats voor de steenrijke Amsterdamse bankier en kunstverzamelaar Henry Hope.
De strijd tussen Haarlem en Amsterdam was een drama in verschillende bedrijven. Al in de Franse tijd, onder koning Lodewijk Napoleon, werd het oude Holland tijdelijk in twee 'departementen' opgesplitst. In het ontwerp-besluit van 1807 was Amsterdam aangewezen als hoofdplaats van het noordelijke departement Amstelland. Maar een smeekbede van het Haarlemse stadsbestuur aan de koning om Haarlem als departementshoofdstad aan te wijzen om 'de totale ondergang' van de stad te voorkomen, had succes. Lodewijk streepte in het Franse concept eigenhandig 'Amsterdam' door en schreef er 'Harlem' voor in de plaats. Drie jaar later echter werd de departementale indeling herzien. Amsterdam werd alsnog de hoofdzetel van een nieuw 'departement van de Zuiderzee' waarvan ook Utrecht deel uitmaakte.
In het Koninkrijk der Nederlanden van na 1814 werd Holland weer één provincie. Wel benoemde koning Willem I om praktische redenen twee gouverneurs (voorlopers van de Commissarissen van de Koningin), terwijl het dagelijkse bestuur in Holland in handen was van twee colleges van Gedeputeerde Staten, in Haarlem en Den Haag. De leden van Provinciale Staten vergaderden beurtelings in de ene en de andere stad. In 1828 moest voor het noorden een nieuwe gouverneur worden benoemd en vlamde de oude controverse opnieuw op. Amsterdam was gepromoveerd tot hoofdstad van het nieuwe Koninkrijk, maar had nog altijd geen overheidsdiensten van betekenis binnen zijn stadsgrenzen. Haarlem bracht daar tegenin dat het tot 'een diepe staat van verval' zou raken als de provinciale zetel werd verplaatst. Vervolgens bleef de toestand bij het oude, waarna de scheiding tussen noord en zuid bij de grondwetsherziening van 1840 definitief werd geregeld. Maar in de voorbereiding deed Amsterdam alsnog een poging om Haarlem te 'beroven van de weldaden aan de vestiging van het provinciaal bestuur verbonden'. Haarlem voerde een krachtige lobby met het argument dat het verlies van de 68 provincieambtenaren 'een onherstelbare ramp' voor de stad zou betekenen. Uiteindelijk zette de regering in augustus 1841 een definitieve streep onder de kwestie in het voordeel van Haarlem.
De Provinciale Statenvergadering in Haarlem was overigens de eerste tijd een verre van een dynamisch gezelschap. Het bestond voor een groot deel uit burgemeesters van Noord-Hollandse plattelandsgemeenten, doorgaans notabele heren van liberale snit die een hekel hadden aan politieke polarisatie en liever een sigaar met elkaar rookten. De samenstelling van het provinciebestuur veranderde pas met de komst van georganiseerde politieke partijen en de verruiming van het kiesrecht tegen het einde van de negentiende eeuw. Het aantal ambtenaren steeg geleidelijk met het toenemende aantal taken, maar groeide pas na de Tweede Wereldoorlog explosief.
