Oudewater is ontstaan op de oeverwal van de Hollandse IJssel, op de plaats waar een oude bedding van de rivier een scherpe bocht naar het noorden maakt. Deze oude bedding, het 'oude water', is nu bekend als de Lange Linschoten. De Hollandse IJssel loopt al bijna twee eeuwen lang door naar Montfoort. Mogelijk bestond Oudewater al toen de monniken van Willibrord in de achtste eeuw in deze omgeving rondtrokken. In de elfde eeuw waren de inwoners van Oudewater rijk genoeg om een tufstenen kerkje te laten bouwen. Toch wordt Oudewater pas in 1239 voor het eerst genoemd.
In 1265 kreeg Oudewater stadsrechten van bisschop Hendrik van Vianden. De burgers begonnen al snel met het bouwen van een stadsmuur. Oudewater strekte zich toen al uit aan beide zijden van de Lange Linschoten, maar lag nog wel geheel op de noordoever van de Hollandse IJssel. De stadsmuur liep dus langs de Hollandse IJssel. Over de Lange Linschoten was een walbrug gebouwd. Deze Remigiusbrug, nu bekend als de Romeynbrug, was een onderdeel van de zwaar verstevigde IJsselpoort. Ook de Linschoterpoort werd in het kader van de grensoorlogen tussen Holland en Utrecht zwaar verstevigd en raakte bekend als 'het kasteel van Oudewater'. Er viel ook wel wat te verdedigen: Oudewater was een rijke stad. Al in 1293 blijkt de stad een 'Lombaardenhuis', een bank, te hebben.
In 1575 werd Oudewater ingenomen door de Spanjaarden. De stad werd herbouwd met nieuwe vestingwerken. Omdat Oudewater zich vanaf 1585 ook aan de zuidzijde van de Hollandse IJssel uitstrekte, werd de muur langs de rivier afgebroken.