园址一带原为农田、坟地，仅有一个名为吴家宅的村落。1860年，英租界当局越界辟筑极司非而路后，英国人霍格兄弟购买了吴家宅以西极司非而路两旁的大片土地，并修建了别墅。(1879年，霍格将极司非而路以北土地售给美国圣公会开办圣约翰书院，以后又将路南土地售与他人。图为霍格夫妇。
民国3年，公共租界工部局向霍格的后人征购该地，决定在此辟建公园，公园定名为极司非而公园(JessfieldPark)，习称兆丰花园。由于公园地近梵皇渡，故又称梵皇渡公园。
公共租界工部局颁发的入园规则。签署人为N. O. Liddell，1919年2月，接任工部局总办。公共租界工部局颁发的入园规则。签署人为N. O. Liddell，1919年2月，接任工部局总办。
民国20年《上海县志》中描述：极司非而公园，当时为公共租界公园中之最优美者，园中布置合东西洋美术之意味共冶于一炉。
公园南的方亭中原有一座大钟，这座钟是纽约一家铁厂于同治四年为上海英美租界制造的，悬挂于山东路救火会作警钟用，后于民国11年移置极司非而公园中，1958年，被当作废铜烂铁处理，可惜！
民国24年，侨民爱斯拉夫人给公园赠建一只古典式大理石亭，二尊西洋女神雕像等均以大理石制成，亭建在园中部原一只中国式凉亭的位置上。文革中大理石亭遭到破坏，石像雕塑和栏杆、花盆被打碎，用于建造游泳池。
民国10年，在园区西北部增辟土地，建上海第一个公共动物园，有熊、狼、狐狸以及羊、兔、驴等，并有几十只鸟禽。民国10年，在园区西北部增辟土地，建上海第一个公共动物园，有熊、狼、狐狸以及羊、兔、驴等，并有几十只鸟禽。
民国12年，园内建露天音乐演奏台，台呈喇叭形，宽17米、高8米。台前为草坪场地，可举行日间或晚间音乐演奏会。
民国33年，以纪念孙中山，将公园改名为中山公园。
90年代开始 ，公园进行了改造建设，1997年，修复了大理石亭女神雕塑和牡丹亭。2000年，为地铁二号线建造，公园划出部分园地，辟建开放式广场绿地。
今日之中山公园
