初祖庵，位于少林寺西北约一公里，五乳峰下的小山丘上，是宋代人为纪念初祖达摩面壁而修建的一座庵院，又称“面壁庵”。三面临涧，古木掩映，为山中胜境。
初祖庵是第四批全国重点文物保护单位。主体建筑有山门、大殿和千佛阁。
山门创建年代已无考证，当在金、元时代。今山门是在1985-1986年在原址上重建。面阔三间，进深两间，通高6.876米，为单檐悬山式建筑。前后檐不施斗拱，用中柱式构架，中间开门。
在山门内、大殿前的甬道东侧有参天侧柏一棵，传说为六祖慧能所种植，围4米多。慧能在广州回少林拜祖，用钵盂将树苗带回栽种于此。
侧柏的后面，就是初祖庵大殿。创建于北宋宣和七年(公元1125年)，历代每有修葺，主要构件仍为北宋原物。它是河南省现在最古老的一座木石结构建筑，在建筑学术上具极高价值。殿门有砖雕对联：“在西天二十八祖，过东土初开少林。”殿内供达摩像，并二祖慧可、三祖僧粲、四祖道信、五祖弘忍。
初祖达摩，意译为觉法。自称佛传禅宗第二十八祖，为吾国禅宗的始祖，印度人，于中国南朝梁武帝时期航海到广州。梁武帝信佛，达摩至南朝都城建业会梁武帝，面谈不契，遂一苇渡江，北上北魏都城洛阳，后卓锡嵩山少林寺，面壁九年，传衣钵于慧可。后出禹门游化终身。达摩不识字迹，因此他的传教“直指人心，见性成佛，不立文字，教外别传”。佛陀拈花微笑，迦叶会意，被认为是禅宗的开始。达摩曾对慧可说：“把你的心交
给我，我帮助你安宁。”
殿内外诸柱皆为八角石柱。外檐柱十二棵，雕卷草式芙蕖，内杂饰人物、飞禽之类。
无普柏枋。外檐斗栱单杪单下昂，重栱计心造。下昂为琴面昂。
柱头铺作为圆栌斗，令栱位置较第一跳慢栱略低。均《营造法式》之定制也。
山面斗栱，为讹角栌斗。
檐柱有显著之生起。
阑额至角出头斫作楂头。
令栱与瓜子栱出跳相列，成鸳鸯交手。
庵初建时间与《营造法式》最为接近，面阔三间，进深三架，因此其斗栱、梁架、雕饰多与《营造法式》相一致，堪称范例。
图为大中华民国丙子年（1936），巩县西乡黄梅宫同立匾：明阳统立。两旁小字”天道福善，万善同归“。
内柱四棵，浮雕神王、蟠龙和嫔迦等。后金柱用移柱造，挪出佛龛的空间。
彻上明造之昂尾。压跳为蝉肚绰幕。
斗栱内部。石柱顶置栌斗，用斗栱与梁栿相接。
转角铺作内部。偷心造，挑干置于平槫下。
石柱上栌斗承木柱，与梁栿通过榫卯连接。插柱造。
东、北、西三壁上尚存人物彩绘23幅，另有5幅在历代修葺已被毁坏，内容为初祖达摩以下三十六位禅宗祖师。绘制年代约在明末，形象质朴古拙。
墙护脚雕云水鱼龙。
