In bijna 1500 jaar was er veel scheefgegroeid in de rooms-katholieke kerk, en de roep om verbetering van die misstanden werd steeds luider. De machtige Kerk van Rome wilde niet luisteren, en de goedbedoelende hervormers werden uit de kerkgemeenschap gegooid, of traden zelf uit. Zo begonnen de mensen die protesteerden hun eigen protestantse kerken te vormen.
Katholieken en protestanten waren elkaar vijandig gezind omdat beide groepen er van overtuigd waren dat hun opvatting het enige ware geloof was. Zolang de katholieken de overhand hadden werden de protestanten vervolgd. Die moesten hun godsdienst stiekem belijden, in het open veld, tussen heggen (hagepreken) of in schuren. Ze riskeerden gevangenneming, marteling en zelfs de dood. Maar in de noordelijke Nederlanden kregen al snel de protestanten de overhand en toen werden alle andere godsdiensten verboden.
In Haarlem, als enige Hollandse stad, heerste tussen 1577 en 1581 een godsdienstvrede. In 1577 werd de Satisfactie van Veere van kracht. Dat was een verdrag over vrijheid van godsdienst dat de stadsregering met de Prins van Oranje had gesloten. Maar in juni 1578 ging het mis. Op de None (het negende-uurs gebed, dus om circa drie uur 's middags) van Sacramentsdag bestormden protestanten de - toen nog rooms-katholieke - Grote Kerk, ze plunderden, sloegen de boel kort en klein en doodden de priester. Ook de kloosters in de stad kregen het zwaar te verduren. Deze beroeringen worden, naar het tijdstip, de Haarlemse Noon genoemd. De onrust duurde slechts enkele dagen, maar de Grote Kerk bleef de hele zomer gesloten. Er heerste een ongemakkelijke sfeer van waakzaamheid, wantrouwen, en scheldpartijen over en weer. Uiteindelijk werd in 1581 het verdrag van Veere beëindigd. Vanaf die tijd was er ook in Haarlem nog maar één godsdienst toegestaan: de Gereformeerde.
Na 1581 overheersten dus de protestanten. Alle bestaande kerkgebouwen werden door de protestanten in gebruik genomen. Zij noemden zich de Gereformeerde Kerk, en ook wel de Publieke Kerk, omdat deze godsdienst als enige openlijk mocht worden beleden. Alle heiligenbeelden, schilderijen en andere versieringen moesten uit de voormalige katholieke kerken worden verwijderd, en alle muurschilderingen werden met witkalk weggewerkt. Een kerk moest er eenvoudig uitzien; de kerkgangers moesten zich niet laten afleiden door mooie kleuren en vormen. Omdat er aanvankelijk voldoende kerkgebouwen in Haarlem waren, is er tussen 1581 en de 19de eeuw maar één protestantse kerk bijgebouwd: de Nieuwe Kerk.
Andersdenkenden richtten schuilkerken in, om in het geheim bijeen te komen. Hoewel dat verboden was, werd het toch oogluikend toegestaan. Dat was die typisch Nederlandse tolerantie, die in onze tijd 'gedogen' wordt genoemd. Er ontstond een speciale, hoge belasting voor schuilkerken: het recognitiegeld.
Omdat hier, ondanks het formele verbod, na 1578 vrijwel geen geloofsvervolgingen zijn geweest, werd Nederland vanaf de 17de eeuw een veilige wijkplaats voor mensen die in andere landen wel vanwege hun geloof werden vervolgd. Die vluchtelingen waren hardwerkende, vakbekwame mensen, en hun vakkennis en ijver leidden tot grote welvaart: de 17de eeuw in Nederland wordt daarom ook wel de Gouden Eeuw genoemd.