幕末までは佐賀鍋島家、萩毛利家などの上屋敷が置かれていましたが、明治時代には陸軍近衛師団の練兵場となりました。
その後、本多静六によって「都市の公園」として設計され、1903年(明治36年)6月1日に日本初のドイツ式洋風近代式公園として開園します。
園内北東部の心字池は江戸城に連なっていた堀の名残りで、かつての石垣の一部を今でも発見することが出来ます。
現在では、霞が関、有楽町などと隣接し都心部に位置する都立公園として、公園面積は161,636.66m2となります。
意外と知られていませんが、公園内には災害用給水槽(有効水量1,500m3)が設置されています。
定水位弁による引き入れと循環ポンプによる引き出しで給水槽内の水は常に新鮮な状態に保たれており、応急給水口が用意され、震災時は清潔な水道水を無償で給水することになっています。