华阳宫因其规模最大，历史最久，所以概称为华阳宫。其实还有道观棉花殿、龙王庙、三皇宫、三元宫、关帝庙、泰山行宫及佛教的净土庵等寺观，殿宇众多，神像各异，被古人称为“济南巨观”。
关于华阳宫的始创年代，史料中无详细记载。明代学者王象春在(齐音·元阳子)一书中记有：“晋元阳子，长白山人，得(金碧潜通)一书于伏生(秦朝博士)墓中，细为注解，携之修真于华阳宫”。这是有关华阳宫最早的记载。从地理上分析，华阳宫具山、湖、泉、河的风水宝地。早在远古，山东民间就崇信鬼神，秦汉之际，皇帝多次来岱封禅大典，方士借机把济南地区发展为道教圣地。据(三国志．武帝纪)载：“东汉时，山东道观祠宇星罗棋布．而济南尤盛，至六百余祠”。当有华阳宫，因此，华阳宫应是济南地区最古老的道教官观之一。至金代，有史载于金兴定四年(公元1220年)，由丘处机的弟子陈志渊拓建，自此香火绵延，经久不衰，渐成规模。至明嘉靖十一年(公元1532年)改为崇正祠，明万历年间(公元1573—1620年)仍改为华阳宫。从建筑遗存上看，明代有过大重修和拓建，清代修葺。
