城池之设，御敌安民，避寇捍患。而河源地处龙江、新丰二江交汇处，历史上水患不断。今下城地低洼濒河，每年初夏大水，三郭之民屡遭水患，城池及民居常遭水淹。成化二十一年（1485年），河源大水，有歌云：“槎江之水可苇航，烟朝月夕皆经过。岂知义雨积滞蛟龙跃，汹涌惊波巨浪崩。城阿冈陵几灭没，独有山嵯峨。-------。万物皆凋翠，群生罹沉疴。-----东埔废春耕，黉宫息弦歌。-----。”弘治十八年（1505年），河源大水，城遭水淹五天，官府用船渡民，房屋倒塌无数，堤岸崩毁。
而河源不仅屡遭水患，又常遭山寇抢掠，高山深箐，民失教化，易聚为寇。尤其在嘉靖年间，山地混乱失控，寇患不断。郡守李玘诗曰：“晓发河源县，阴云白半城。遥看楠树色，忽听鹧鸪声。地下常忧水，山穷易弄兵。割符深帝念，渤海亦儒生。”
句中“地下常忧水，山穷易弄兵”，正是当时河源的地方社会状态。
隆庆五年五月初一（1571年5月24日），河源又遭大水，当时，船被狼兵掳掠，民众无船可渡，被溺死者甚众，房屋倒塌无数。大水过后，为使百姓不屡遭洪水之苦，必须从长计议，乡绅贡生李学颜与教官莫文泰、抚瑶官谢成学、监生邝京寿、长老邱凤等为首倡，向县令林大黼倡议复建故城（上城），得到了乡民一百八十余人的积极响应。县令林大黼见大家心齐，道宪王化也认为可行，上请惠州府，亦同意建城。
于是，李学颜积极奔走，与道宪王化遍历故城，考卜方位，迁墓购地，平整土方。先定县治衙门，选择坐桂山向东北，又定城门、城墙、民宅、街巷等，规划城址，描画地图。开工后，经过一年多的时间，先是筑好了县衙前堂、后堂各四楹，门二重，建好了城北面一带城墙及东南西北四个城门，上城初具雏形。
隆庆六年冬（1572年），城未迁，而县令林大黼升迁去，新任县令觉得耗资甚巨，无力再建，而接下来的又一新任县令也不问前事。直到六年后的万历六年戊寅（1578年），又一新任县令曾守愚上任，决意用前所议定方案，续举建城事。规划城周围七百余丈，城墙、马路、窝铺、衙宇、仓库、监狱、学校等项，共费约一万金。上请分守少参李盛春，请函得到回复，同意续建。当时的巡按广东监察御史龚懋贤，曾经目睹水患的惨状，捐赎锾四百金以充公费。而县令曾守愚认为城墙太长，担心费用不足，欲截去东南一隅，缩小城内面积。恰好李焘的同科进士宋尧武时任惠州府知府，力止之，要求仍按原旧基建筑。万历九年（1581年），经过近三年的续建，城墙威严，城楼高耸，城郭规模逐日形成。而在建城接近完工时，县令曾守愚三年任职满，升迁新职，由新任县令汤民仰接任。
万历十年初夏（1582年），河源再次遭特大洪水，再次造成严重的财产损失和人员伤亡。当时，溪谷堰塞，冲毁田亩千余顷，下城及三廓房屋倒塌近千间。分守道胡时化见百姓惨状，上请于总督两广军务兼广东巡抚福建长乐人陈瑞，陈瑞拨给军饷二百金用以赈灾，并命令县令汤民仰带领民众，刻期迁入上城，以为民望。经过半年的完善后，历时十二年断断续续的建设，历经几任县令，上城建城终于完工，于万历十一年正月初六日（1583年1月29日），县衙正式迁入上城。随后，民众也陆续迁入。
