往少林寺西北行2公里，就到了五乳峰下的初祖庵，这是为纪念达摩始祖面壁而修建的，所以又名面壁庵。该庵修建于北宋年间，以丰富多样的石刻而著称。

初祖庵内有大殿、山门、千佛阁等建筑，其中初祖庵大殿是河南省现存最古老的木结构建筑。殿内的十二根石柱上都雕有乐伎、童子、飞鸟、宝相花、牡丹花等图案，大殿东西北三面雕有许多精美的浮雕，内容以人物、动物、鸟兽为主，造型生动逼真，栩栩如生；大殿神台上所雕图案更是殿内石雕中的精品，画面上花草茂盛、田园整齐，游方的僧人、待渡的路人、古老的寺院、耸立的宝塔、奔流的河水以及河上的小桥共同构成一处恬淡明丽的世外桃源。

此外，庵内还存有历代名家手书的碑及碑刻40余通。

包含在少林寺100元通票内