北魏孝昌三年（公元527年），印度高僧达摩来到嵩山少林寺传播禅宗。由于长时间面壁，达摩也感到身体疲惫，加上深山的野兽侵扰，他仿效古代劳动，创编了健身活动的“活身法”。他在闲暇时，练习用链、棍、杖、剑等动作以护身防盗，这些动作被后人称为“达摩链”、“达摩杖”、“达摩剑”。
受到自然界鸟兽飞翔腾跃的启发，达摩进一步发展了“活身法”，创造了一静结合的“罗汉手”。这套健身术经过历代不断的演练、综合、充实和提高，逐渐形成了独具特色的“少林拳”。
南北朝以后，少林武功开始向精湛的技击方向发展，开始了有和严格的僧兵训练。每天晨曦初露，师僧们便一同起床练习。无论是寒冬还是酷暑，他们都坚持不懈，苦练武艺。到了隋唐时期，少林武功已经名扬四海。
金末元初时期，少林派拳术大师白、觉远、李叟等人对少林拳法进行了深入研究，并将“罗汉十八手”发展为七十二手，后来更是增至一百七十三手。在五代十国时期，高僧福居邀请了十八位著名武术家到少林寺进行为期两年的武术交流，共同传授拳法。
明代时期，少林寺演武之风更是盛行。著名的抗倭名将俞大猷也曾到少林寺传授棍术。少林寺僧通过吸取百家之长，不断发展和精进少林武功。自那时起，来少林寺的游客无不以观赏武术表演作为游览古寺的或结束。明代诗人傅梅曾作诗赞美：“少林寺藏于翠微之中，自隋唐以来就以武术闻名。”
