15. mai 1915 skrev advokat Hieronymus Heyerdahl til Oslo formannskap og foreslo oppføringen av et nytt rådhus. Samtidig forelå et ønske om å regulere Pipervika. Området var kjent for fattigdom og slum, og ble omtalt som en stygg flekk i byens ansikt.

Seks prisvinnende arkitekter inviteres
Noen uker etter at Heyerdahls forslag ble fremlagt, ble det nedsatt en forberedende komité. Året etter ble seks prisvinnende arkitekter oppfordret til å utvikle utkastene. I 1918 valgte juryen enstemmig forslaget til arkitektene Magnus Poulsson og Arnstein Arneberg. To år senere ble de to ansatt som rådhusarkitekter. I 1921 vedtok Stortinget ekspropriasjonsloven for å rive husene i Pipervika – det første steget mot realisering av det nye Oslo rådhus var tatt.
I 1931 blir forslaget til nytt rådhus vedtatt. Rådhusets kasseformede med to tårn på som rammer inn Borggården kjennetegner bygget
Planen var at rådhuset skulle være ferdig i 1924. Men økonomiske nedgangstider fulgte. Samtidig trakk eksproprieringen av Pipervika ut. Og i mellomtiden utviklet stilidealene seg.

Arkitektene Poulsson og Arneberg måtte endre planene
Arkitektene Poulsson og Arneberg kom med nye forslag til det nye rådhuset. Det syvende forslaget lignet på mange måter et italiensk, renessanse-luksuspalass. I 1931 ble det endelige forslaget vedtatt. Rådhusets kasseformede bygning med to tårn på sidene som rammer inn Borggården, er det som kjennetegner komplekset. I september det samme året ble grunnsteinen lagt på plass under høytidelig pomp og prakt med kong Haakon VII og kronprins Olav til stede.
Kort tid etter grunnsten-nedleggelsen raste heftige diskusjoner i avisene. Det ble foreslått ny rådhuskonkurranse. Finansborgermesteren mente atpåtil at kommunen ikke hadde behov eller økonomi til et slik praktbygg. Det var nok med en ny festsal og rom for bystyret. Ingen av motforslagene ble realisert.

Begynte grunnarbeidene i 1933
I februar 1933 ble grunnarbeidene påbegynt. Konstruksjonen ble utført i støpt betong. Da skallet var på plass i 1936 begynte man med fasadebekledningen. I 1939 flyttet Bykassa (den kommunale økonomiforvaltningen) inn i rådhuset.
Oslo rådhus ble innviet 35 år etter Hieronymus Heyerdahl fremmet forslaget om nytt rådhus og 19 år etter grunnsten-nedleggelsen
Etter tyskernes okkupasjon i 1940 stoppet mesteparten av byggeaktiviteten opp. I tillegg ønsket nazistene å fjerne ferdigstilte fresker som var malt på veggene, da de ble oppfattet som «Entartete Kunst» (degenerert kunst).
Til tross for vanskelighetene fortsatte Poulsson og Arneberg som utøvende arkitekter, dog ikke under kommunens styre, men som privatpraktiserende. Det var deres betingelse for å unngå å jobbe med den nye byarkitekten som var NS-medlem.

Måtte bygge samfunnet etter krigen, ikke rådhus
Etter krigen sto naturlig nok ikke ferdigstillelsen av rådhuset øverst på listen. Man fokuserte på å bygge opp byer og samfunn som var rammet av okkupasjonens bombetokter og nedbrenning. Samtidig var den allmenne gjenreisingen høyt prioritert. Det var først i 1950 at Oslo rådhus ble innviet, 35 år etter Hieronymus Heyerdahl fremmet forslaget om nytt rådhus og 19 år etter grunnsten-nedleggelsen.

Oslo rådhus er et enestående verk i norsk 1900-talls arkitektur. I tillegg til sin ytre form og plasseringen i byrommet, er bygningen utstyrt med kunst, kunsthåndverk og design av flere av tidens fremste utøvere.
Bygningen er at på til et populært reisemål for turister året rundt. Flere av verdens viktigste ledere og fredsforkjempere har besøkt rådhuset i anledning utdelingen av Nobels fredspris.