据考证，渔梁坝始建于隋末唐初。隋唐之际，越国公汪华徙新安郡治于歙县，在渔梁筑坝，至今已有1400多年的历史。渔梁坝屡毁屡建，经历了从“木坝”到“石坝”的过程，现在的古坝为明万历三十五年（1607）重建。坝的下游左岸有仰高亭，重檐歇山顶建筑。
渔梁古坝是古徽州昌盛数百年的水路码头，交通要津。曾辉煌一时的徽商抵钱塘、下扬州都要从这里起步，堪称是徽州商人“梦开始的地方”。
唐天宝年间，大诗人李白在洛阳同华传舍看到隐居歙县的唐代著名道人许宣平的一首诗：“隐居三十载，筑室南山巅。静夜玩明月，闲来饮碧泉。樵人歌垅上，谷鸟戏岩前。乐矣不知老，都忘甲子年。”被李白惊赞为“真仙人诗也”，于是欣然动身寻访许宣平。李白翻山越岭，沿新安古道来到渔梁古镇的渔梁坝，登上一翁独撑的渡船。在船上，李白向老翁打听许宣平的住址，老翁笑答“门前一杆竹，便是许翁家。”李白访仙心切，一时竟没有悟出话中含义，待下船后才突然想到“门前一杆竹”不就是渡船吗？原来撑船老翁便是仙人许宣平。回头再找，老翁和渡船早已不知去向。
渔梁坝是一座堆石滚水坝，坝长143米，底宽28米，顶宽6米，坝高约5米。坝断面为不等腰梯形，下游边坡平缓。坝体全部采用清一色的花岗岩条石垒砌而成，每块石头重达吨余。
渔梁坝条石砌筑的方法科学、巧妙，每平砌十块青石，均立一根石柱，如钉子般插入上下层之间，这种石质的插钉称为“稳定”，也称元宝钉。这样，上下层如穿了石锁，互相衔接，极为牢固。
而每一层各条石之间，又用燕尾石锁链接，这样上下左右紧联一体，构筑成了跨江而卧的坚实渔梁坝。
在下游坝面上，有一“出水井”，这是坝体独特的施工技术留下的建筑，是坝体分段施工所采用的导流泄水涵洞，这也是现代坝体施工常用的技术。坝体施工分为南北两段，先完成北段施工并同时完成这导流洞，在南段施工时利用导流洞泄水。在坝体南段施工完成后，采用砂石对导流洞进行封堵。坝体建成后，出水井还有另一功能，当上游水经导流洞砂石料过滤，来到这里已变得非常干净，人们在这里可以非常便捷地取到清澈的河水。
坝面偏南设有三道水门，即溢洪道，用于排水。溢洪道由北向南渐次低落，以调节流量。著名古建专家郑孝燮先生说:“渔梁坝的设计、建设和功能，均可与横卧岷江的都江堰相媲美，显示了古代徽州人的科学精神和杰出才智！”
站在石坝上，举首四望，山清水秀，流水潺潺，气象万千，江、镇、山、坝、桥构成了一幅生动的风景。怪不得当年与歙人许宣平失之交臂的李白赞叹这里：“人行明镜中，鸟度屏风里”。坝上碧波如镜，鱼翔深潭，恬静、安闲。
坝下乱石嶙峋，浪峰咬石；南岸巍然屹立的紫阳山，林木葱郁。
渔梁坝的两岸是典型的徽派民居，窄窄的青石板路靠河边侧设有许多叉口，沿叉口拾级而下，便可到达渔梁坝。
北岸的渔梁街属国家历史文化名街，唐朝乾元二年（759）形成街市，已有1200多年历史，是当时徽商外出经商往返的必经之路，也是府衙官员们出门的必经之道，被称为“徽商之源”。
渔梁古街依山傍水，整条街道用清一色卵石有序铺就，恰似鱼鳞，又因古街形似鲤鱼，故又称“渔鳞街”。
渔鳞街蜿蜒约1公里，两边店铺林立。古祠堂、古民居、古寺庙随街可见，排列井然，称之为江南第一水街。
渔鳞街上，有一祠堂，称“崇报祠”，现为“渔梁坝博物馆”。
崇报祠又称坝祠，为缅怀和纪念历史上曾为修建渔梁坝的有功之臣及有识之士而修建，始建于清光绪三十一年（1905），占地面积344平方米，三进三开间二天井，属徽派建筑中典型的“天井式祠堂”。
崇报祠大门的门罩下有精美的壁画。
光绪三十一年渔梁坝重修后，知府黄曾源题额“崇报立达”，作修坝记勒碑于祠，故称“崇报祠”。
渔梁坝自建成后，屡毁屡建，经历了艰苦的探索过程。渔梁坝的修筑历程，也是我国古代水利工程的修建史，凝聚着古代劳动人民勤劳智慧和不懈追求的精神。弘治十二年，知府张祯题“功垂千秋”。
康熙二十六年，知府朱廷梅题“水聚徽盛”。
祠内有渔梁坝相关文物展，有一古代的消防车特别引人注目。
中堂天井左侧立有万历年三十五年（1607）的“重修渔梁坝提名碑”及“严禁货物上坝”的禁碑。
渔梁坝历史悠久，设计精妙，是古徽州乃至我国古代水利工程的杰作，正是由于其科学的建造方法所形成的稳固结构，跨越千年的这座徽州古坝依然发挥着其重要的水利功能，具有极高的历史、科学、文化和艺术价值。
