少林寺创建于北魏孝文帝太和十九年(公元四九五年）。
当时，天竺僧人跋陀由西域来到中原，得到虔信佛学的孝文帝的礼敬。
跋陀游历中原时，见嵩山很象一朵莲花，便有意在花中立寺，孝文帝遂在少室山建造少林寺供养跋陀。
后来又过三十余年，南天竺僧人菩提达摩来到少林寺，广罗弟子，传授禅宗，成为中国佛教禅宗的开山祖师。
少林派，素来被称为武林第一门派，号称中原武林的泰山北斗。少林寺僧众习武源远流长。
南北朝时，后魏孝文帝大和年间（公元四七七年-公元四九九年），达摩大师从梁国北来，面壁于嵩山少林寺，历时九年而功成，遂传《易筋》、《洗髓》二经，创立少林武术。唐代李靖又写了《易筋经序》。
历史上，在达摩以前，北朝寺院的练武风气就已形成。少林武术的发扬光大，始于隋唐之际的一件大事。
隋朝未年，天下大乱，秦王李世民与郑帝王世充作战，少林武僧应邀相助，活捉王仁则，逼降王世充，这就是着名的“十三棍僧救唐王”，
李世民即位后对少林寺大加赏赐，少林寺再度兴旺起来，少林武术也开始繁荣发达，逐渐成为中原武林第一门派。
大宋开国之君赵匡胤与少林寺的渊源也是颇深的，赵匡胤出生在洛阳夹马营一个军人之家，他父亲是一名将军。
赵匡胤自幼便在军营中长大，耳濡目染，潜移默化的喜欢上舞刀弄棒的武术，梦想成为武林高手；军营里的将士们，都很喜欢这个聪明的小孩，闲来无事，总要点拨一二。
赵匡胤天资聪颖，一学就会，久而久之，习得一身好本事。慢慢的他觉得只在军营里练习武术，满足不了成为武林高手的欲望，后来他就求学于少林。
学习武术是一个修习的过程，更不用说是在少林寺中学武。赵匡胤在少林学习拳法，从一开始的练动作，到后来组合动作的身法，从初级到出神入化的过程，慢慢体悟到里面的禅学、佛学的博大文化。
赵匡胤在少林寺中，不仅创作了着名的“太祖长拳三十六式”，而且对乱世中的生活哲理开始积淀，这对于他以后夺取皇位并守得住皇位有至关重要的作用。
赵匡胤身在古寺，却看得到暴君酷吏大小统治者在连番角逐，使得中原大地兵荒马乱，民不聊生。他发誓有朝一日一定给天下百姓一个安定的乐土；
赵匡胤在21岁那年，离开少林寺，寻找那份属于自己的事业，他漫游了华北、中原，西北的不少地方，这也为他建立远大的目标开拓了视野；
唐朝的皇帝们大多都喜欢佛教，而到了宋朝的官家们却大部分喜欢道教；
中国历史上有四次“灭佛“事件，即“三武一宗灭佛“，三武者，即北魏太武帝拓跋焘、北周武帝宇文邕、唐武宗李炎;一宗者，即周世宗柴荣。
五代十国时期，是唐朝安史之乱以后藩镇割据局面的延续和扩大。
当时，连年征战，土地荒芜，水利失修，国民经济萧条，以至于“人烟断绝，荆榛蔽野“。
社会的动荡导致很多百姓不得已遁入空门，寻求佛教的庇佑；因为佛教寺院名下的土地和百姓自南北朝以来朝廷规定都是不用交赋税和免征兵役徭役。
这也直接导致了佛教迅速的膨胀发展，到了五代十国后期直接导致了国家赋税的大幅度缩水；国家政权与宗教势力的矛盾已经相当尖锐。
周世宗柴荣初登基之时，国家正处于四分五裂的局面，而朝廷却很难收到赋税和兵役徭役。
因为大部分百姓都把名下的土地和户籍挂靠到了佛教寺院的名下；很多百姓私自把铜钱融化了铸成铜佛像，这极大的影响了铜钱的流通，非常不利于国家经济的运行；
佛教本应劝人向善、普度众生，然而唐末五代时期，佛门弟子却大多是仗着佛教的便利，借机敛财、盘剥百姓、逃税逃役之辈；真正参佛悟禅之人却少之又少；
国家征战需要大量的粮食和兵源，但是当时国家税收和征兵役都十分困难，众多的佛寺挂靠了大量百姓，他们借佛门的庇佑，不交赋税，不服兵役。
柴荣既痛恨这些亵渎佛祖、败坏佛教的行为，又痛恨这些对国家财政收入和兵役徭役造成重大损失的败类；
柴荣是在马背上得天下的，他一生纵横四海雷厉风行，不太相信这些宗教鬼神轮回之说，所以从他一即位开始，就对佛教抱着敌对的态度。
除此之外后周世宗柴荣灭佛的背景还有一个方面，就是当时天下寺院数量太多，而进入寺院当和尚的人也非常多，这些人一定程度上使劳动力人数下降。
他们纷纷进入寺院当和尚就不利于农业生产的发展了。所以后周周世宗决心把多余的劳动力从寺院中解放出来，让他们促进国家的农业生产提高粮食产量，从而为国家发展打牢稳固的基础，。
后周显德二年五月，周世宗柴荣昭告天下，“非敕赐寺额者皆废之，融化寺庙铜像，铸成铜钱和兵器，不能背诵三卷经书者立刻还俗”至此之后，众寺院受到重大的打击，少林寺也未能幸免，直到赵匡胤建立大宋后，才得以慢慢恢复元气；
宋朝前两位官家，虽不像周世宗柴荣那样对佛教严酷打压，但也并没有像唐朝的那些皇帝一样崇佛。所有少林派在宋初一直不温不火，没有了往日的荣光；
直到雍熙三年宋军北伐契丹时，少林派也遣人随其他江湖门派一同参与北伐，并付出了惨重的代价，朝廷念其功德，才对少林派多了一些赏赐与政策上的宽松。