梁小龍的父親在香港一個小戲班里當班主，常年漂泊在外。家中只有八歲的小龍和年邁的祖母相依為命，因為梁小龍是孩子中的大哥，所以父母便希望他能認真讀書，梁小龍卻重武輕文，在他七八歲的時候便離開家庭，開始自己闖蕩人生。在他15歲時，當時在香港邵氏電影公司當武術指導的叔叔梁小松便開始正式傳他武功，他不但隨叔叔學習了北派腿法，還跟其他武師習練詠春拳，并正式拜日本空手道黑帶高手山口為師學習空手道。在香港參加了三次有外國人參加的全港搏擊比賽，獲兩次冠軍、一次亞軍。他一次在九龍油麻地平安大廈自己武館的梯間，遭十多名持利器男子伏擊，最終將對方全部打倒，他手無寸鐵只受輕傷。

1972年，梁小龍在街上打架時被香港電影協會主席兼香港政客吳思遠看中，因此進入演藝圈。

1972年，，梁小龍與與黃元申、南宮勛一起主演主演了電影《生龍活虎》，由于過于暴力在72年拍完被禁映只能在海外映出，到75年才在香港上映。

1976年，梁小龍獲得佳藝電視明星獎，出演了一些金庸電視劇。1977年后復出影壇，由于與中國大陸交流原因被臺灣禁止作品上演，于是演藝事業一度中斷，只好在內地投資做生意。

1981年，與黃元申、米雪、董驃、魏秋樺主演了電視劇《大俠霍元甲》，并在劇中飾演了陳真。1982年，在電視劇《陳真》中，再次飾演了陳真。

1991年，臺灣開放禁令，梁小龍主演了《五郎八卦棍》。

2003年，在周星馳邀請下出演《功夫》中反派“火云邪神”一角。2009年在《功夫廚神》中試演黃秉基。

2010年11月27日，電影《截拳道》在中國上映，梁小龍在《截拳道》中扮演了陳天星的父親陳長勝這一武館掌門角色。

2013年，梁小龍與李連杰、文章共同主演了電影《不二神探》，并與李連杰在影片中進行了生死打斗。

2014年，梁小龍主演了電影《劍河》，這是一部內地版的《賽德克?巴萊》。