该寺山门原名金刚殿，面阔三间，进深五架椽，单檐悬山顶，上覆灰瓦。正脊与垂脊皆用黄绿色琉璃。整个山门造型和建筑结构系后人按照元制仿造，显得古朴大方。
天王殿也叫「无梁殿」，是一座有著很多明代重修痕迹的元代建筑。天王殿面阔三间，进深四架椽，单檐悬山，上覆绿色琉璃瓦，不少还是元代建筑构件。殿内西壁现存元代所绘「四大天王」壁画，那彩色人物画保存完整，四大天王皆高两米左右，各执不同兵器，线条粗犷豪放，肌肉节节隆起，强壮有力。他们衣饰迎风飘卷，目光炯炯，栩栩如生，似有脱壁而出的生动。据专家评价，其绘画手法达到了纯熟地步，是罕见的元代壁画珍品，是研究元代绘画艺术的宝贵资料。之所以叫「无梁殿」，是因为这个建筑未使用大梁，巧妙地利用斗拱、枋、榫铆相连，将屋顶的重量传到中柱上，极其稳固，体现了高超的建筑艺术，是中原地区充分利用力学原理的一座典型建筑。
大雄宝殿，殿面阔三间，进深三间，单檐歇山顶，上覆绿色琉璃瓦。结构精巧，四翼角向上反翘，酷似大鹏展翅，造型庄重优美。殿内前墙与东西壁，尚存有人物、楼阁、城廓、山水、树木、花卉等彩色壁画，表现了元代民间画风;内檐的拱眼壁间，皆有彩绘坐佛，结跏趺坐於云层中，其后有项光与背光，可能是明代重修时所绘。这大雄宝殿是「原汁原味」的元代建筑，没有任何修补的痕迹，杜先洲、祁英涛等著名古建专家来看的时候击节赞赏，认为是中原地区「结构最纯正的元代建筑」。大殿前门额上方有「风」字形牌匾，上书「大雄之殿」四个字，笔力刚劲，落款为「大元至元五年(一三○四年)」，被认为是中原地区现存寺院牌匾中时代最早的。
慈胜寺现存的建筑是元代的，但其实创建於更久远的年代。宋代末年的一场战火曾将这座寺院化为废墟，元代只是在原址上进行了重建。那么这座古刹的历史能够追溯到什么年代?慈胜寺现存的碑记为人们提供了线索。
慈胜寺更详尽的历史很难寻觅，除石碑外没有更多的文字资料留存下来。这里曾经有哪些著名的和尚，曾经有过什么样的往事，统统不得而知。但有研究者认为，有一点是可以肯定的∶这座寺院曾经是个僧侣中转站。温县、孟州与黄河南岸的孟津、巩义、荥阳之间的黄河古渡口很多。前几年小浪底搬迁时进行抢救性发掘，在三十多公里长的黄河岸边发现了密密麻麻的栈道、粮仓和码头遗址。
近几十年水位急剧下降，黄河如今几乎失去了运输功能，但在历史上，却为东西交通提供了黄金水道，但同时却也是南北交通的天堑。黄河在孟津冲出峡谷，渐渐收束性情，水流平缓起来，便於建立渡口。黄河通过这些渡口与南北各地联结起来，渡口同时成了黄河上下航行的码头，因此人们习惯上称其为「水旱码头」或「水陆码头」，一些著名的古渡是重要的交通枢纽。
如今看起来极其偏僻的慈胜寺，在古代却有著巨大的交通优势，站在滔滔黄河边的这些渡口向北看去，慈胜寺就遥遥在望了。说这座寺院因黄河古渡而生，可能并不为过。这里是豫北和豫西之间，甚至是北京与西安之间的交通要道。而在佛教文化传播和交流的「地图」上，这个寺院的位置也显得很重要。谢公社介绍说，有专家研究认为，从山西五台山到山东泰山，从安阳修定寺到登封少林寺，来来往往的游方僧大多路过慈胜寺，在这里休息、讲授佛法。可以说，这座寺院的特色就是一个游方僧的中转站。或许因为这样的特殊性，从五代(也可能上推到唐代)到宋，再到元明清，黄河北岸的这个寺院历代都得到整修，得以传承到了现在。
