中国佛教到了南北朝，已由翻译（经文）时代而进入研究时代。当时的佛教，得到统治阶级的大力扶植，尤其是北魏与南梁。北魏的统治阶级除了大事建寺、度僧，还不惜付出浩大的代价，开凿石窟，他们的目的是为了所谓“修福”、“行善”，却设想到这些石窟成为后世震惊世界的伟大石窟艺术。北魏孝文帝太和十九年（公元495年），西域来了一个僧人跋陀，获得佞佛的孝文帝所敬信，便在嵩山少室山北麓丛林中，兴建一座寺院，施给跋陀。这座寺院，就是少林寺。

看来在嵩山建寺，是跋陀自己所选的地点，嵩山像一朵莲花，少林寺是建筑在莲花之中。这是后来闻名中外的少林寺创建的历史。跋陀传度了慧光、僧稠等弟子，这些弟子有许多懂得武功，如僧稠（跋陀一系的少林二祖），当小和尚的时候便已习武，是一个强健骁武的高僧；慧光12岁时在洛阳城天街井栏上反踢毽子，能一口气反踢500，被跋陀收为弟子。后来跋陀传灯转移，没有在少林寺传宗接代继续发展。

道教与佛教的相轧，引起了南北朝时代的两次“废佛事件”。第二次废佛是周武帝时期，陈宣帝六年（公元574年），那时少林寺已有79年历史，废佛就是将佛教消灭至没有的状态，少林寺自然是逃不掉这一场劫难。“十三棍僧救秦王”大象年间，北周静帝字文衍（公元579－581年）重兴佛寺，被遭废弃的少林寺又重获生机，废佛时遣返乡间就业的少林和尚又回到嵩山。静帝将少林寺改为陟岵寺。静帝立后不久，禅让于大丞杨坚，杨坚称文帝，国号隋。这个在尼姑庙里出生并由一个尼姑抚养成人的隋文帝，对佛教更是大力扶植，他把陟岵寺恢复旧名，仍称少林寺，并赐柏谷屯田100顷，以供寺僧食用资费，少林寺又渐渐佛业兴隆。少林寺在古文献上开始有武功记载，就是隋末“拒贼”。隋炀帝大业年间，天下大乱，各地农民纷纷起义，当时的少林寺，常住财产丰富，畜有奴仆，便成为起义农民的攻击对象。寺内有僧徒数百，亦有许多练武的僧人，和起义军对抗。后来不知胜败如何，但少林寺却被起义军纵火焚烧，把整座寺院焚毁。

少林寺遭了这一场大灾劫，元气大伤。到了唐王朝第一代皇帝李渊的时候，李渊的儿子李世民（后来的唐太宗）以太尉、尚书令、秦王等身份，率兵进攻洛阳的王世充。李世民曾写信给少林寺的和尚，要他们助战，僧人以昙宗为首的13个和尚，率领僧人下山，先解救了被王世充围困的李世民，然后逼降王世充，生擒王世充侄儿王仁则，为唐太宗立下了汗马功劳。昙宗被封为大将军，其余12人不欲授官，正是“时危聊作将，事定复为僧”。唐太宗各赐紫罗袈裟，还赐少林寺大量银两，田地40顷，水碾一具。唐太宗还准许少林寺设有“僧兵”，准许和尚习武，而且还认为练武则不能缺少营养，竟御准少林和尚食肉。唐太宗时代，是少林寺的一个全盛时期，隋末全寺被焚，这时又殿宇林立，全寺占地1万余亩，大殿14座，房舍50余间，寺僧千余，还有500僧兵。

少林寺过了一段鼎盛的日子，到了唐武宗李炎（公元841－846年）时候，又遇到武宗灭佛。武宗是李唐一代21个皇帝中唯一坚决反佛的皇帝，当时全国有大、中佛教寺院4600所，小庙宇4万多处，全部被废毁，寺院的财货和肥沃良田数千万顷一律没收，被逼还俗僧尼二十六万五百人。少林寺自然又遇了劫数，殿宇被拆毁，变成废墟。武宗灭佛一年多，宣宗即帝位，立即下敕恢复佛教，少林寺又得要从头建设了。荒凉的少林寺，到了宋朝，又回复兴盛，那时的寺房发展到数百间，寺僧已达2000人。少林武术自唐代兴起，据说五代十国时，高僧福居邀集18家武术名手来少林寺学习演练三年，各取所长，汇集成少林拳谱。而到了宋代，又推进了一大步，那时已收容俗家弟子，传说宋太祖赵匡胤和岳飞，都是得到少林真传。元代的少林寺仍维持它的鼎盛，寺僧也有2000余人。到了明朝嘉靖年间，倭寇侵扰沿海地带，少林寺以月空为首的40多个和尚，应召组织了一支僧兵，开赴上海附近的淞江一带，抵御倭寇，用铁棍作武器，英勇杀敌，尽歼敌酋，后来不幸误中埋伏，这40多个爱国和尚全部壮烈牺牲。明朝的少林寺已达到兴盛的巅峰，寺内的许多建筑都是这时期重建。

所谓达摩的《易筋经、洗髓经》，也在此时出现。这其实是伪托之作，《易筋经》是达摩未来中国之前早已存在的导引术，《洗髓经》则是道家采捕御女的邪说。达摩不懂武功，不是少林武术的创始人，已是经过考据家而肯定的了。说达摩是禅宗的初祖，这也是值得研究的，因为并不是在达摩生前由他宣言而成立禅宗，却是在他死后200余年，始有禅宗这一个名称，捧达摩为初祖，而后世的禅宗，亦没有将达摩所说作为根本教义。少林寺流传有很多达摩的荒诞离奇的传说，公元1750年，乾隆皇游览少林寺，随从大臣把达摩“一苇渡江”“面壁留影”“只履西归”这些“事迹”告诉他，乾隆皇就不相信。

少林寺到了清代，开始出现老化的趋势。传说少林寺曾被清庭纵火焚烧，事实是在康熙、雍正、乾隆三朝，少林寺并未被焚，反之这些清朝皇帝，还敕修这座千年名刹，现存的少林寺建筑物，都是明清以后重修的。目前的少林寺山门，是清雍正十三年（公元1735年）奉敕创建，“少林寺”横匾，是清康熙皇帝亲笔书写。但目前的横匾，字是御笔，但匾的形式却与当时不同，据说山门曾失火被焚，横匾亦被焚去一角，“少”字是后来一个书法家补上的。少林寺碑林内，两旁碑刻林立，多是唐宋著名书法家的珍品。传说乾隆皇当年游少林寺时，曾立一座石碑，寺僧发觉碑林内有几块石碑竟高出皇帝的石碑之上，也就立即将这几块石碑埋藏地下，最近才将石碑掘出得以重见天日。

少林寺最大一次灾劫，是民国十七年（公元1928年）军阀混战，少林僧人站在樊钟秀一方，让樊军驻扎寺内，樊钟秀败退，石友三一怒之下，派兵焚寺，一场大火延续焚烧了45日夜，把寺内无数殿、堂、楼、阁和很多经文刻木古文物化为灰烬。

1979年，河南省开始对少林寺进行维修整理，少林寺这祖国的珍贵文物，又开始发放它的异彩！