斧山公園的所在地原為木屋區，因香港政府在1988年5月興建大老山隧道而清拆，並擬作休憩用途。市政局計劃將該地闢為斧山公園，並配合鄰近的志蓮淨苑作仿唐公園的設計，然而原先由建築署提出的園林設計與志蓮淨苑格格不入，工程的設計、建造及監督其後交由志蓮淨苑負責，並在落成後營運公園，但擁有權歸政府全權所有，由康樂及文化事務署管轄。

斧山公園第一期－東蓮園及西蓮園於2000年落成，但第二期的南蓮園池工程則延至2006年落成啟用。