Gedurende de veertiende eeuw is de Sint-Janskerk van een relatief kleine hofkapel uitgegroeid tot een parochiekerk die steeds een stukje uitgebouwd wordt. Aan het einde van de veertiende eeuw is de Sint-Jan waarschijnlijk een vierkant gebouw geweest met een ingesnoerd koor, een klein koor ten oosten van de kerk. Daar is het kerkbestuur op de lange termijn niet tevreden mee, de kerk moet een groot en voornaam gebouw zijn. Daarom koopt men in 1375 nieuwe percelen ten oosten van de oude kerk aan.
Uit de archieven waarin verschillende koopaktes staan van stukken land rond de kerk, blijkt dat men de kerk vanaf het einde van de veertiende eeuw opnieuw uitbouwt. Het eerste wat men bouwt is een nieuw koor, niet een ingesnoerd koor zoals eerst het geval was, maar een groter koor. Daarvoor moet de begraafplaats die ten oosten van de kerk ligt, wijken.
Gouda is aan het einde van de veertiende eeuw onderdeel van het bisdom Utrecht. De bisschop van Utrecht heeft het hoogste gezag, ook in Gouda. Voor een ingrijpende verbouwing aan de kerk moet deze bisschop toestemming geven. Aan het begin van de veertiende eeuw is de oude hofkapel, die er nog steeds staat, al bijna een eeuw oud. Het kerkbestuur wil graag een nieuwe kerk bouwen op de plaats van de oude en daarom vragen ze aan Frederik van Blankenheim, de bisschop van Utrecht, of ze de hofkapel mogen afbreken. Die toestemming volgt in 1404. Dit betekent overigens niet dat heel de kerk, dus ook het nieuwgebouwde koor, wordt afgebroken. Ze slopen alleen de oude hofkapel.
Bij het nieuwe koor hoort een nieuw schip en nadat de bisschop zijn toestemming heeft gegeven bouwt men een driebeukig schip in de stijl van het koor. Omdat het koor op de plaats van het oude kerkhof gebouwd was, breidt men het kerkhof op een andere plaats verder uit. In 1413 zijn de nieuwe kerk en het nieuwe kerkhof klaar en worden ze ingewijd door de vicaris-generaal. Dit is een hoge kerkelijke functionaris die de bisschop helpt bij het uitvoeren van al zijn taken.
In het achterhalen van dit soort gegevens over verbouwingen van de Sint-Jan zijn administratieve bronnen, zoals boeken waarin inkomsten en uitgaven zijn bijgehouden, heel belangrijk. In de Middeleeuwen zijn kerk en staat nog niet gescheiden. De stad betaalt daarom mee aan de kerk, die onder andere de opbrengst van boetes ontvangt. Verder zijn er ook belastingen die aan de Sint-Jan vervallen, zoals de vleesaccijns, een belasting op vlees.
Hoe de verbouwingen van de Sint-Jan ongeveer verlopen zijn weten we onder andere uit de verschillende restauraties van de afgelopen decennia. Regelmatig komen er oude funderingen boven, die ons laten zien hoe de kerk waarschijnlijk gebouwd is in de Middeleeuwen. Een andere belangrijke bron zijn de grafboeken van de Sint-Jan. In deze boeken schrijft men op hoeveel graven er in de Sint-Jan zijn. Voor elke laag gebruikt men een nieuw katern en men geeft ook aan hoeveel graven er naast elkaar liggen, bijvoorbeeld in het koor. Eveneens wordt opgeschreven wie de eigenaar van een bepaald graf is. Als dat wijzigt, past men dat in het grafboek aan. Daarnaast voegt men nieuwe katernen aan het boek toe als de kerk wordt uitgebouwd en er nieuwe graven bijkomen. Op die manier is het mogelijk om de bouwgeschiedenis van de Sint-Jan nauwkeurig te reconstrueren.