Joachimus Pieter Fockema Andreae werd in 1914 burgemeester van Utrecht, nadat hij daarvoor tweemaal wethouder Publieke Werken was geweest en enkele jaren raadslid. Als burgemeester was hij bijzonder populair: hij werd tweemaal herkozen. Zijn succes was mede te danken aan een onvermoeibare inzet voor de stad. Hij bemoeide zich met alle zaken, hij sloeg in twintig jaar nooit een raadsvergadering over en bezocht elke dag wel een publieke aangelegenheid, was het niet als burgemeester, dan wel als burger van de stad.
Utrecht groeide in die periode van 124.000 inwoners naar bijna 160.000 inwoners met nieuwe wijken als Ondiep, Rivierenwijk en Tuinwijk. Fockema Andreae was bijzonder geïnteresseerd in stedenbouw en publiceerde in 1912 De Heedendaagsche Stedenbouw, het eerste standaardwerk in Nederland op dit gebied. Hij haalde in 1918 de beroemde H.P. Berlage als adviseur naar Utrecht. Berlage maakte met de directeur Gemeentewerken N. Holsboer een ambitieus uitbreidingsplan voor de stad. Voor burgemeester Fockema Andreae was stadsvernieuwing onlosmakelijk verbonden met respect voor de monumenten in de stad. Hij initieerde daarom de oprichting van de historische Vereniging Oud Utrecht en was betrokken bij de totstandkoming van de gemeentelijke Monumentenverordening.
Tijdens zijn burgemeesterschap vond de eerste opgraving naar de Romeinse restanten onder het Domplein plaats en kreeg de Domtoren een grondige restauratie. Niet alleen de cultuur had zijn aandacht. Ook zette hij zich in voor economische groei van Utrecht. Zo richtte hij in 1917 samen met W.A. van Zijst de eerste Nederlandse Jaarbeurs en zorgde hij voor een nieuwe veemarkt en een groente-en fruitveiling.
Op landelijk niveau voerde hij een stevige lobby voor de uitbreiding van de gemeentegrenzen en de aanleg van een nieuw Amsterdam-Rijnkanaal langs Utrecht. Gemeente-architecten als J.I. Planjer en G. van der Gaast ontwierpen bijzondere publieke gebouwen (politiebureau Tolsteeg, paviljoen Wilhelminapark) en scholen, geheel volgens de stelling van Fockema Andreae dat de stad als opdrachtgever het goed voorbeeld moest geven.